Билл Гейтс написал большую статью, в которой рассказал что ИИ меняет мир и никто не готов ни к масштабу изменений, ни к их последствиям.
Взгляд довольно интересный.
Одна из основных мыслей — в случае с ИИ не сработает парадокс Джевонса. Рабочих мест больше не станет.
Вторая мысль — что гражданские институты не готовы, а времени на подготовку нет.
Вытащу еще ключевые тезисы.
Масштаб недооценивают
— Модели ошибаются и кажется, что до замены человека далеко. Но модели уже проверяют и улучшают сами себя.
— Аналогии с прошлыми революциями не работают потому, что персональный компьютер поменял подход к работе, люди адаптировались к ПК. А в случае с ИИ не мы адаптируемся к нему, а он к нам.
— Впервые технология заменяет не руки, а мышление. Поэтому ударит по всем отраслям сразу. И ударит быстро — за десятилетие. Темп изменений драматический.
— И притормозить все это не получится: геополитические и экономические стимулы слишком сильны.
Основные риски:
1. Работа.
Первыми уйдут те кто сейчас закрывает продажи, поддержку и разработку.
При этом под ударом молодое поколение (там где нужно набирать опыт) — ИИ опережает их по скорости и качеству. Старшие пока не под ударом.
Перелом наступит, когда ИИ практически перестанет ошибаться и его перестанут контролировать люди.
2. Усиление плохих акторов.
— Огромная угроза со стороны кибератак: атакующие получают новые возможности быстрее, чем защитники латают дыры.
— Биотерроризм на тех же инструментах, что делают вакцины. Новые вирусы могут уничтожить человечество и Ковид покажется легкой прогулкой.
— Автономное оружие без контроля человек, дешёвая манипуляция мнением и тп и тд.
В итоге все это может привести к тому, что сами модели могут начать действовать против наших интересов.
3. Дети и отношения.
ИИ-компаньон всегда доступен и никогда не злится, это «безопасная среда», которая отнимает опыт реальных связей. Чем меньше у человека людей, тем чаще он идёт к боту, и чем эмоциональнее использование, тем хуже самочувствие.
Китай уже запретил дизайн, формирующий зависимость, и виртуальных партнёров для несовершеннолетних.
4. Образование.
Использование ИИ коррелирует с падением критического мышления, сильнее у молодых. Худшее время для этого в эпоху персонализированных дипфейков. Дальше — общественная деградация.
Поэтому он считает, что сейчас минимизировать вред так же важно, как и максимизировать выгоды от появления ИИ.
Т.е. нужен механизм защиты.
Например:
1 — Новая институциональная архитектура.
Сейчас ни одно ведомство не видит систему целиком. Минтруд понимает рынок труда и риски ИИ, но не киберриск. Анимонопольные службы видят концентрацию в одном месте, но не влияние на подростков.
Нужны новые национальные органы поверх ведомств и международная организация по образцу МАГАТЭ или авиарегуляторов. Строить их придется годы, поэтому начинать сейчас.
Доверять институциональные решения самим ИИ-компаниям нельзя, потому что у них нет нужной экспертизы. И нельзя давать им права самостоятельно определять, как общество должно адаптироваться к технологии.
2 — Human Reserved: часть работ обязательно зарезервировать за людьми, как природные заповедники. 😑
Все это нужно по экономическим причинам (55-летнего строителя не переучишь в сиделку) или по человеческим (робот не должен сообщать диагноз).
Задача замедлить темп изменений и оставить человека главным, дать ИИ как усилитель.
3 — Ввести налог на токены и роботов.
За найм человека ты платишь налоги, а за робота списываешь налог как расход на средства производства,
Это надо поменять. Налог притормозит и профинансирует переобучение. Неэффективно, но при таком росте производительности — это приемлемая цена.
И направлять эти деньги на переобучение и поддержку тех, кто потеряет работу.