Генеральный директор компании Anthropic Даріо Амодеї опубликовал программное эссе «Policy on the AI Exponential», в котором заявил, что эпоха ограничений, основанных только на прозрачности, подходит к концу. По его мнению, современные и будущие модели искусственного интеллекта достигли уровня, при котором требуют системного государственного контроля, сопоставимого с регулированием авиации или лекарственных препаратов.
Одновременно Anthropic представила ряд политических инициатив, включая обязательное независимое тестирование передовых моделей и разработку механизмов реагирования на массовое вытеснение рабочих мест. Компания заявляет о готовности поддерживать эти меры финансово.
Метафора «гобитов и Древобородa»
Амодеї начинает свое эссе с метафоры из «Властелина колец»: государственные институты он сравнивает с медленным и инерционным Древобородом, тогда как развитие ИИ — с гобитами, которые движутся стремительно.
Эта разница в скорости, по его мнению, и является ключевой проблемой современного регулирования: технологии развиваются быстрее, чем политические и правовые системы успевают на них реагировать.
Он отмечает, что всего за несколько лет ИИ-модели прошли путь от неспособности генерировать связный код до выполнения значительной части программирования в крупных технологических компаниях.
Если текущие тенденции сохранятся, предупреждает Амодеї, мир может приблизиться к явлению, которое он называет «страной гениев в дата-центре» — системе, где ИИ-системы выполняют работу на уровне лучших специалистов сразу во многих областях.
Риски нового масштаба: киберугрозы, биориски и потеря контроля
Особое внимание в эссе уделяется рискам, связанным с развитием ИИ. Амодеї считает, что современные модели уже демонстрируют потенциал влияния на критическую инфраструктуру — от кибербезопасности до финансовых систем.
Дальнейшее развитие, по его мнению, может привести к появлению биологических угроз и рисков потери контроля над автономными системами. Это делает ИИ, как он утверждает, технологией стратегического уровня.
Пять направлений, требующих регулирования
1. Регулирование и безопасность
Амодеї предлагает создать регулятор по образцу Федерального управления гражданской авиации США (FAA), который будет контролировать наиболее мощные ИИ-модели.
Модели, превышающие определенный уровень вычислительных ресурсов, должны проходить обязательное тестирование независимыми экспертами по четырем направлениям:
кибербезопасность;
риск создания биологического оружия;
потеря контроля над ИИ-системами;
автоматизированные исследования, ускоряющие первые три риска.
Государство, по его мнению, должно иметь право блокировать опасные модели, но только в рамках четко определенных критериев и с механизмами защиты от политического злоупотребления.
2. Экономика и занятость
Амодеї предупреждает о возможном сценарии «гиперроста с гипернеравенством», при котором экономика будет стремительно расти, но значительная часть работников может потерять рабочие места.
Среди предложенных мер:
государственный мониторинг влияния ИИ на рынок труда;
страхование заработной платы при переходе на менее оплачиваемую работу;
налоговые стимулы для сохранения занятости;
в крайнем случае — безусловный базовый доход или универсальные капитальные счета, финансируемые за счет налогообложения ИИ-компаний.
3. Ускорение позитивных технологий
По словам Амодеї, опасность заключается не только в рисках, но и в неготовности существующих институтов к ускорению научного прогресса.
Регуляторы в медицине и биотехнологиях могут оказаться перегруженными из-за потока новых разработок, создаваемых ИИ. Поэтому он предлагает уже сейчас разрабатывать стандарты использования ИИ-симуляций в клинических исследованиях.
4. Государство и гражданские свободы
Амодеї подчеркивает, что мощный ИИ может стать инструментом чрезмерного контроля.
Он предлагает:
запрет полностью автономного оружия против гражданского населения;
внедрение механизмов судебного контроля над автономными системами;
ограничение массового наблюдения через брокеров данных;
гарантирование гражданам доступа к ИИ не ниже уровня, чем используется государством.
5. Геополитика и коалиция демократий
ИИ, по мнению Амодеї, радикально меняет глобальный баланс сил, сравнимо с появлением ядерного оружия.
Он предлагает создание коалиции демократических стран со едиными правилами безопасности, обменом технологиями и контролируемым доступом к передовым чипам.
Страны вне коалиции, по этой логике, будут получать ограниченный доступ к критическим технологиям, что должно стимулировать их присоединение к системе общих правил.
Дискуссия о рисках и общественном восприятии
Амодеї также отвергает идею, что общественные опасения вокруг ИИ связаны лишь с «неудачным маркетингом». По его мнению, эти опасения отражают реальную оценку рисков.
Он считает, что задача технологических компаний — не снижать уровень тревожности, а направить его в сторону выработки эффективных правил регулирования, пока сохраняется окно возможностей для политических решений.
В целом позиция главы Anthropic сводится к одному выводу: искусственный интеллект перестает быть обычной технологией и становится инфраструктурой глобального уровня, требующей столь же строгого контроля, как авиация, медицина и критические отрасли экономики.
