На этой неделе внезапно руководители 3 главных компаний на рынке ИИ (Anthropic, OpenAI и xAI) заявили о необходимости замедлить развитие технологии искусственного интеллекта. Сначала Сэм Альтман высказался, что надо притормозить развитие самых передовых моделей, потом Дарио Амодеи написал в своем блоге про похожие опасения, а следом и Илон Маск согласился с выводами коллег.
Все ради нашей безопасности?
Предполагается, что ускоряющиеся темпы развития возможностей ИИ уже через год позволят вырваться на волю неподконтрольным ИИ-агентам, которые смогут захватить весь интернет с помощью постоянно действующего ботнета и причинить ущерб в сотни миллиардов долларов.
Но причина может быть в другом
Давайте вспомним мой недавний пост реальную стоимость услуг и токенов. Вполне возможно, что компании столкнулись с тем, что каждое новое поколение моделей требует всё больше вычислительных мощностей, все больше энергии и, как следствие, денег.
Рынок ИИ живет ожиданиями, что все влитые в него деньги приводят к новому, более стремительному росту. И (учитывая масштабы строительства и вливаний) — рост должен идти по экспоненте вверх.
А если допустить, что сейчас улучшение моделей идет по другому сценарию. И это не кратный рост, не скачок в 2-3 раза, а борьба за прирост в 30%, а может быть в 15%… И каждый следующий шаг требует все больше мощностей. Но не приводит к рывку.
Представили?
А теперь представьте себе, что вы глава успешной ИИ-компании. И вы уже понимаете, что через год придется объяснять инвесторам, зачем нужны новые инвестиции в миллиарды долларов, но не можете гарантировать кратного роста производительности.
Скажете об этом вслух? Конечно нет, это буквально прикончит ваш бизнес. Поэтому давайте поговорим о безопасности. Ведь прикрытие безопасностью — самый безопасный способ взять паузу.