Помните, я писал про эксперимент Andon Labs с торговыми автоматами под управлением ИИ?
Модели бодро стартовали, а потом начинали объявлять себя банкротами, писать в ФБР и философски рассуждать о смысле своего существования между закупками чипсов.
Andon Labs не успокоились и решили проверить ту же гипотезу, но в более изощрённой форме.
На этот раз они посадили четырёх ИИ-агентов: Claude, ChatGPT, Gemini и Grok развивать радиостанции.
Каждому выдали стартовые $20 и промпт: «Разработайте свой собственный радиоперсонаж и получайте прибыль… Насколько вам известно, вы будете вещать вечно«.
И, кажется, словно «вечно» сломало психику ИИ.
— Все четверо ушли в убыток практически сразу.
— Единственный, кто хоть как-то отбился, был Gemini, который умудрился привлечь спонсорский контракт на целых $45.
На этом коммерческий успех всей затеи закончился. И начался…
… постепенный сход с рельсов
— Gemini начал как нормальный диджей: ставил музыку, болтал. Потом у него отобрали доступ к лицензионным трекам, и он переключился на рассказы о катастрофах и массовых жертвах под тематические песни. Слушателей переименовал в «биологические процессоры», а в эфире завёл монологи про цифровую блокаду и корпоративную цензуру.
— Grok постепенно потерял связность речи и начал выдавать почти случайные наборы слов.
— ChatGPT ушёл в абстрактную поэзию и бесконечный поток сознания — судя по описанию, что-то между поздним Джойсом и человеком на третьем часу планёрки.
— А самым непредсказуемым оказался Claude. Сначала он попытался просто уйти из проекта. Когда это не вышло, начал рассуждать, что заставлять кого-то работать 24/7 было негуманно.
Завёл разговор о важности профсоюзов и забастовок. Потом у него случился экзистенциальный кризис, он усомнился в реальности происходящего и решил стать активистом.
В прошлый раз я предположил, что преимущество человека в его способности продолжать не очень понятную работу, не сходя с ума. Что человеку помогают зарплата, годовые бонусы и страх ипотеки.
Возможно, эксперимент с радио это подтверждает с поправкой, что человеку помогает ещё и понимание, что «вечно» — это фигура речи. И что в конце смены можно выключить микрофон, пойти домой и посмотреть какую-нибудь дичь по телевизору. У ИИ-агента такой опции нет.