Генеральний директор компанії Anthropic Даріо Амодеї опублікував програмне есе «Policy on the AI Exponential», у якому закликав кардинально переглянути підхід до регулювання штучного інтелекту. На його думку, епоха «просто прозорості» вже завершилася — сучасні та майбутні моделі ШІ настільки потужні, що потребують системи контролю, подібної до тієї, яка існує в авіації або фармацевтиці.
Паралельно компанія представила низку політичних ініціатив, серед яких — обов’язкове незалежне тестування передових моделей та розробка механізмів реагування на масове витіснення робочих місць. Anthropic заявляє, що готова фінансово підтримувати впровадження цих підходів.
«Гобіти і Древобород»: метафора швидкості ШІ
Амодеї починає своє есе з метафори з «Володаря перснів»: інституції держави він порівнює з повільним і обережним Древобородом, тоді як розвиток штучного інтелекту — з гобітами, які рухаються надзвичайно швидко.
На його думку, саме ця різниця у швидкості є ключовою проблемою сучасного регулювання. Технології розвиваються настільки стрімко, що політичні та правові системи просто не встигають реагувати.
Він наголошує, що всього за кілька років ШІ-моделі пройшли шлях від здатності генерувати прості тексти до виконання складних програмних завдань, включно з написанням значної частини коду в провідних технологічних компаніях.
У разі збереження нинішніх темпів розвитку, попереджає Амодеї, світ може опинитися перед явищем, яке він називає «країною геніїв у дата-центрі» — середовищем, де надпотужні ШІ-системи виконують роботу на рівні найкращих людських фахівців у багатьох галузях одночасно.
Ризики нового рівня: кіберзагрози, біоризики та втрата контролю
Особливу увагу в есе приділено потенційним ризикам. Амодеї вважає, що нове покоління ШІ вже демонструє здатність впливати на критичні сфери — від кібербезпеки до фінансової інфраструктури.
Він підкреслює, що наступним етапом можуть стати біологічні ризики та загроза втрати контролю над автономними системами. Саме це, на його думку, робить ШІ технологією стратегічного значення, яка потребує державного нагляду.
П’ять напрямів, які потребують регулювання
1. Регулювання та безпека
Амодеї пропонує створити регулятор на зразок Федерального управління цивільної авіації США (FAA), який контролюватиме найпотужніші моделі ШІ.
Моделі, що перевищують певний обсяг обчислювальних потужностей, мають проходити обов’язкове тестування незалежними експертами за чотирма ключовими напрямами:
кібербезпека;
ризики створення біологічної зброї;
втрата контролю над системами ШІ;
автоматизація досліджень, що прискорює інші ризики.
Також держава повинна отримати право блокувати небезпечні моделі, але лише в межах чітко визначених критеріїв і з механізмами запобігання політичним зловживанням.
2. Економіка та зайнятість
Амодеї попереджає про можливий сценарій «гіперзростання з гіпернерівністю», коли економіка стрімко зростає, але значна частина працівників втрачає робочі місця.
Серед запропонованих рішень:
державний моніторинг впливу ШІ на ринок праці;
страхування доходів при переході на нижчеоплачувану роботу;
податкові стимули для збереження зайнятості;
у крайніх випадках — базовий дохід або універсальні капітальні рахунки, фінансовані податками на ШІ-індустрію.
3. Прискорення позитивних технологій
Окремий ризик, за словами Амодеї, полягає не у надмірному регулюванні, а у неготовності існуючих структур до швидкого прогресу.
Регуляторні органи у сфері медицини та біотехнологій можуть не впоратися з потоком нових розробок, які створюватиме ШІ. Тому він пропонує вже зараз готувати стандарти використання ШІ-симуляцій у клінічних дослідженнях.
4. Держава та громадянські свободи
Амодеї наголошує, що потужний ШІ може стати інструментом надмірного контролю.
Він пропонує:
заборону повністю автономної зброї проти цивільного населення;
створення механізмів судового контролю над автономними системами;
обмеження масового стеження через брокерів даних;
гарантію громадянам доступу до ШІ не нижчого рівня, ніж той, що використовує держава.
5. Геополітика та «коаліція демократій»
ШІ, за словами Амодеї, змінює глобальний баланс сил так само радикально, як ядерна зброя.
Він пропонує створення коаліції демократичних держав зі спільними правилами безпеки, обміном технологіями та контрольованим доступом до передових чипів.
У межах цього підходу країни поза коаліцією отримуватимуть обмежений доступ до критичних технологій, що має стимулювати приєднання до системи спільних правил.
Дискусія про ризики та відповідальність
Амодеї також відкидає думку, що суспільні побоювання щодо ШІ є результатом «поганого маркетингу». Навпаки, він вважає їх логічною реакцією на реальні ризики.
На його думку, завдання технологічних компаній — не зменшувати занепокоєння, а перетворити його на ефективну систему регулювання, поки для цього ще існує політичне вікно можливостей.
У підсумку позиція глави Anthropic зводиться до одного ключового висновку: штучний інтелект більше не є просто технологічним інструментом. Він стає інфраструктурою глобального рівня, яка потребує таких самих жорстких правил безпеки, як авіація, медицина і ядерна енергетика.
