Технологии
Почему создатели ИИ просят притормозить ИИ: анатомия великого замедления - от письма 2023 года до порогов вычислений: проблема выравнивания, гоночная теория игр, уроки истории и сценарии для человечества до 2040 года
Весной 2023 года письмо с призывом приостановить обучение моделей мощнее GPT-4 подписали люди, которые эти модели и создали. С тех пор «замедление ИИ» превратилось из маргинальной идеи в инженерную дисциплину: пороги вычислений, eval-гейты, аппаратная аттестация чипов. Команда Lemag.kz разбирает парадокс великого замедления: что видят изнутри те, кто нажимает на тормоз, почему односторонняя пауза проигрывает в теории игр, чему учат Асиломар и ядерные договоры и какие четыре сценария ждут человечество до 2040 года.