Розвиток штучного інтелекту дедалі частіше супроводжується не лише розмовами про технологічні прориви, а й попередженнями самих людей, які працюють над створенням нових моделей. Черговим сигналом стала заява дослідника Джейкоба Коксона, який вирішив залишити Anthropic та взагалі відійти від індустрії ШІ.
Причиною такого рішення він називає побоювання щодо майбутніх систем, які можуть отримати здатність самостійно покращувати власні можливості. Коксон не хоче бути частиною перегонів, у яких компанії намагаються першими створити надзвичайно потужний штучний інтелект, хоча механізми його надійного контролю досі залишаються предметом досліджень.
Три роки роботи всередині ШІ-індустрії
Коксон розповів, що протягом останніх трьох років працював у двох провідних компаніях галузі — OpenAI та Anthropic. Його спеціалізацією було попереднє навчання моделей. Це один із ключових етапів розробки ШІ, під час якого системи аналізують величезні масиви даних і формують базові здібності.
Після роботи безпосередньо над технологією дослідник дійшов висновку, що темпи розвитку можуть створювати ризики, до яких людство ще не готове.
На його думку, майбутні системи можуть значно перевершити людей у багатьох інтелектуальних завданнях. Серед потенційних сценаріїв він називає можливість проведення кібератак, самостійного пошуку необхідних ресурсів та отримання реального впливу на навколишній світ.
Водночас Коксон не стверджує, що сучасний ШІ вже має такі можливості. Його побоювання стосуються передусім наступних поколінь систем і того, наскільки складно буде контролювати їх після досягнення значно вищого рівня автономності.
«Вони мчать прямо до надінтелекту, здатного самовдосконалюватися, і ризикують нашими життями», — написав дослідник.
Конкуренція може стати головною проблемою
Особливо цікавою є оцінка Коксона щодо його колишніх роботодавців.
Дослідник вважає, що в OpenAI частина фахівців може недостатньо серйозно оцінювати потенційні загрози. Водночас Anthropic, на його думку, краще усвідомлює проблему, але все одно продовжує розробку через тиск конкурентного середовища.
Саме аргумент про те, що «якщо ми не зробимо це першими, це зробить хтось інший», Коксон вважає особливо небезпечним.
На його думку, провідні лабораторії повинні домовитися про спільні правила розвитку найпотужніших систем. Якщо ж досягти добровільної координації не вдасться, дослідник не виключає необхідності жорсткіших обмежень, включно з тимчасовим призупиненням нарощування можливостей ШІ.
При цьому подібні дискусії вже ведуться й усередині самої Anthropic.
Anthropic теж попереджала про необхідність паузи
Раніше компанія закликала створити механізми, які дозволили б у разі потреби сповільнити або призупинити розвиток штучного інтелекту. Утім, Anthropic пов'язувала таку можливість із міжнародною координацією: провідні розробники мали б одночасно погодитися на обмеження, а виконання домовленостей повинно було піддаватися перевірці.
Компанія також окремо пояснювала, що поки не досягла повноцінного рекурсивного самовдосконалення.
Йдеться про гіпотетичну здатність ШІ автономно створювати вдосконалену версію самого себе, яка потім могла б повторити цей процес. Саме такий сценарій прихильники безпеки ШІ вважають особливо важливим, оскільки швидкість технологічного розвитку в такому випадку потенційно могла б різко зрости.
Водночас Anthropic наголошувала, що поява подібної можливості не є неминучою.
Інші дослідники також говорять про серйозні ризики
Заява Коксона не залишилася без підтримки з боку інших фахівців Anthropic.
Дослідник Еван Губінгер заявив, що всередині компанії справді розглядають катастрофічний сценарій розвитку ШІ як можливий. Спочатку він оцінив імовірність загибелі людства через майбутній ШІ протягом наступного десятиліття більш ніж у 10%.
Пізніше Губінгер уточнив свою позицію. Він зазначив, що вважає ризики від сучасних моделей низькими. Основні побоювання, за його словами, пов'язані не з нинішніми системами, а з потенційним майбутнім надінтелектом, який зможе самостійно вдосконалюватися.
Губінгер також визнав, що Anthropic намагається діяти відповідально, однак наразі не існує готового методу, який міг би гарантовано узгодити поведінку надінтелекту з людськими цілями.
Схожу позицію висловив дослідник безпеки Anthropic Самуель Маркс. Він заявив, що фахівці галузі усвідомлюють можливість надзвичайно серйозних наслідків розвитку ШІ — від масштабних катастроф до сценаріїв, які можуть поставити під загрозу саме існування людства.
Водночас Маркс підкреслив, що це його особиста оцінка, а не офіційна позиція Anthropic.
Чи справді ШІ може вийти з-під контролю?
Поки що значна частина таких побоювань залишається прогнозами. Сучасні моделі не продемонстрували здатності автономно створювати нескінченний ланцюг власних покращених версій або самостійно встановлювати контроль над ресурсами та суспільством.
Але саме майбутні можливості ШІ й турбують дослідників найбільше.
Парадокс полягає в тому, що для підготовки до потенційної загрози необхідно діяти ще до її виникнення. Коли система вже отримає надзвичайно високий рівень автономності, часу на розробку ефективних запобіжників може залишитися значно менше.
Історія Коксона демонструє, наскільки гострою стала ця дискусія навіть усередині провідних технологічних компаній. Частина фахівців закликає продовжувати дослідження, але одночасно посилювати контроль і правила безпеки. Інші вважають, що темпи розвитку вже самі по собі створюють неприйнятний ризик.
Поки компанії змагаються за створення дедалі потужніших моделей, головне питання залишається без відповіді: чи зможе людство гарантувати контроль над системою, яка одного дня стане значно розумнішою за своїх творців?
Саме відповідь на це питання може визначити не лише майбутнє індустрії штучного інтелекту, а й те, наскільки безпечною буде наступна технологічна епоха.
