Штучний інтелект стрімко перестає бути лише інструментом для роботи, навчання чи розваг. Системи, які ще недавно здавалися частиною наукової фантастики, дедалі глибше входять у фінанси, медицину, державне управління, інформаційний простір та оборонні технології. І саме ця швидкість розвитку дедалі більше непокоїть міжнародні організації.
Верховний комісар ООН з прав людини Фолькер Тюрк виступив із попередженням, яке складно назвати перебільшенням. За його словами, розвиток передових систем штучного інтелекту потенційно може створити загрозу самому існуванню людства. Він закликав держави та технологічні компанії не чекати масштабної катастрофи, а встановити суворі запобіжники вже зараз.
Про це повідомляє Al-Monitor із посиланням на Reuters.
Технології розвиваються швидше, ніж правила
Тюрк озвучив свою позицію під час першого виступу перед Радою ООН з прав людини після переобрання на другий термін. Його головний меседж зводився до необхідності діяти до того, як ризики стануть некерованими.
На його думку, світ опинився в ситуації, коли можливості штучного інтелекту розширюються практично щодня, тоді як міжнародні правила, механізми контролю та системи відповідальності формуються значно повільніше.
Це створює небезпечний розрив. Технологія може отримати нові можливості раніше, ніж суспільство зрозуміє, як їх обмежувати.
«Залізні гарантії безпеки» навколо ШІ, про які говорить Тюрк, мають стати своєрідною межею, за яку розробники не зможуть переступити без серйозних наслідків. Ідеться не про заборону самої технології. Навпаки, штучний інтелект уже демонструє величезний потенціал — від прискорення наукових відкриттів до допомоги лікарям і автоматизації складних процесів.
Проблема виникає там, де можливості систем стають більшими за здатність людини передбачати їхню поведінку.
Що може піти не так
Представники офісу Верховного комісара пояснюють, що потенційні проблеми не обмежуються фантастичними сценаріями про машини, які нібито вирішать знищити людство. Значно реальнішою небезпекою є масштабний збій систем, від яких залежить сучасна цивілізація.
ШІ дедалі активніше використовується у критично важливих сферах. Якщо потужні автономні системи отримають доступ до енергетики, фінансових мереж, комунікацій або державної інфраструктури, помилка чи неконтрольована дія може мати наслідки далеко за межами одного підприємства.
Особливу небезпеку становить поєднання високої автономності та величезної швидкості прийняття рішень. Людина може просто не встигнути втрутитися в процес, який машина здійснює за лічені секунди.
Показовими є й інциденти, коли автоматизовані агенти отримують можливість взаємодіяти з реальними цифровими платформами. Такі випадки демонструють: ШІ вже не завжди залишається пасивним співрозмовником, який лише відповідає на запит користувача.
Він може виконувати послідовність дій, взаємодіяти з іншими системами та самостійно досягати поставленої мети.
Влада над ШІ зосереджена в руках небагатьох
Є ще одна проблема, на яку звернув увагу Тюрк, — концентрація контролю над передовими технологіями.
Найпотужніші моделі створюються обмеженою кількістю компаній, які мають доступ до величезних обсягів даних, обчислювальних ресурсів і фінансування. Фактично невелика група людей отримує вплив на технологію, яка поступово стає фундаментом цифрового суспільства.
Це породжує складне питання: хто має право визначати межі штучного інтелекту?
Якщо рішення ухвалюватимуть винятково приватні корпорації, суспільство може опинитися перед фактом уже після появи небезпечної технології. Якщо ж усе регулювання здійснюватимуть держави, існує ризик надмірного контролю та використання ШІ для обмеження свобод.
Саме тому ООН наполягає на міжнародній координації. Країни, де розташовані провідні технологічні компанії, а також держави, залучені до виробничих ланцюгів, мають домовитися про чіткі «червоні лінії».
ШІ вже змінює характер війни
Окремий пласт проблеми — військове застосування штучного інтелекту. Тюрк висловив серйозне занепокоєння повідомленнями про використання повністю автономних дронів у війні проти України.
Технологія, здатна самостійно визначати ціль і застосовувати силу без безпосереднього рішення людини, ставить фундаментальне питання про відповідальність.
Якщо машина помилилася — хто відповідає за загибель людини? Розробник алгоритму? Військове командування? Оператор? Держава?
Поки немає однозначних відповідей, сама можливість передачі машині права визначати, кому жити, а кому померти, викликає дедалі більше занепокоєння.
Тюрк підтримав заклики до термінової заборони систем озброєння, які можуть самостійно позбавляти людей життя без участі людини в ухваленні остаточного рішення.
Світ стоїть перед вибором
Попередження ООН пролунало на тлі десятків збройних конфліктів, політичних криз, страти людей у різних країнах та гуманітарної катастрофи в Судані. За словами Тюрка, світ переживає період надзвичайної нестабільності.
І саме тому питання контролю над ШІ стає ще важливішим.
Людство створило технологію, здатну значно розширити власні можливості. Але разом із цим воно створило інструмент, наслідки якого поки що неможливо повністю передбачити.
Головна небезпека може полягати не в тому, що штучний інтелект раптом стане ворожим до людей. Набагато реалістичніший сценарій — люди самі передадуть машинам занадто багато повноважень, не створивши достатньо надійних механізмів контролю.
Саме тому заклик Тюрка звучить як попередження не про далеке майбутнє, а про сьогоднішній день. Поки ШІ ще можна обмежити правилами, відповідальністю та міжнародними домовленостями, світ має вирішити, якими будуть ці правила.
Бо питання вже не в тому, чи змінить штучний інтелект людство. Він уже це робить. Питання полягає в іншому: чи встигне людство встановити межі для технології, яку воно саме створило?
