Штучний інтелект, який ще кілька років тому сприймався переважно як інструмент для пошуку інформації, написання текстів або допомоги в роботі, дедалі частіше опиняється в центрі значно серйозніших ситуацій. Цього разу технологія фактично стала одним із елементів, які допомогли правоохоронцям запобігти можливому вбивству.
У США система безпеки ChatGPT виявила повідомлення користувача, в яких він детально описував намір викрасти, сексуально насильницьки атакувати та вбити свою колишню дівчину. Інформацію після перевірки передали Федеральному бюро розслідувань США.
Йдеться про 25-річного Даррена Чжоу, аналітика інвестиційного банку. За даними, наведеними Bild, чоловік не просто висловлював емоції після розриву стосунків, а поступово формував у листуванні з чат-ботом конкретний план злочину.
Його повідомлення містили відомості про колишню дівчину, місця, які вона регулярно відвідувала, його власні нав'язливі думки, ревнощі та наміри здійснити напад.
«Якщо я не можу її мати...»
Стосунки Чжоу з 21-річною дівчиною завершилися після телефонної розмови. Однак замість того, щоб змиритися з розривом, чоловік почав переслідувати колишню партнерку.
Він телефонував і писав їй із різних номерів, використовував соціальні мережі та, як встановило слідство, продовжував намагатися контролювати її життя.
Особливо небезпечним стало те, що свої думки він почав детально описувати ChatGPT.
У повідомленнях фігурували конкретні деталі можливого нападу. Чоловік розповідав про місця, де могла перебувати його колишня дівчина, і розглядав можливість влаштувати їй засідку біля спортзалу.
Його висловлювання вийшли далеко за межі звичайної агресії після розриву. Він описував сексуальне насильство, вбивство та навіть власну смерть після скоєного.
Саме сукупність цих факторів зробила ситуацію надзвичайно небезпечною.
Для системи безпеки це вже не виглядало як абстрактна фантазія чи сюжет вигаданої історії. Йшлося про реальну людину, конкретну жертву, мотив, нав'язливе переслідування та деталі потенційного злочину.
Як ChatGPT передав інформацію правоохоронцям
Системи безпеки OpenAI виявили загрозливий контент у повідомленнях користувача. Після цього матеріали були проаналізовані співробітником, а інформацію передали ФБР.
Федеральні правоохоронці отримали журнали комунікації та передали їх слідчим, які почали оцінювати характер погроз.
У результаті правоохоронці дійшли висновку, що повідомлення можуть свідчити про змову з метою вбивства.
Цей момент особливо важливий, адже історія демонструє нову реальність, у якій цифрові сервіси можуть відігравати роль у виявленні потенційних злочинів ще до того, як вони сталися.
У минулому людина, яка мала небезпечні наміри, могла залишатися практично непомітною для правоохоронців доти, доки не здійснювала конкретних дій. Тепер ситуація складніша: цифрові платформи можуть виявляти певні ознаки загрози за характером повідомлень і поведінки користувача.
Однак це водночас породжує складні питання щодо приватності, конфіденційності та меж втручання технологічних компаній.
Злочин не стався — але загроза була реальною
Правоохоронцям вдалося затримати Чжоу до того, як його план був реалізований.
За наведеними даними, чоловік визнав себе винним. Він також підтвердив, що після розриву неодноразово переслідував колишню дівчину за допомогою телефонних дзвінків, текстових повідомлень із різних номерів та соціальних мереж.
Прокурор висунув проти нього звинувачення у переслідуванні, письмових погрозах смертю та використанні комунікаційного пристрою для скоєння злочину.
Суд призначив Чжоу вісім років умовного покарання. Крім того, йому заборонили контактувати з колишньою дівчиною та володіти вогнепальною зброєю. Протягом двох років він також має носити електронний браслет.
Таким чином, потенційна трагедія була зупинена ще до того, як напад став реальністю.
Для 21-річної жінки це означало можливість уникнути ситуації, наслідки якої могли бути незворотними.
Чому ця історія важлива для розвитку ШІ
Випадок у Флориді показує, наскільки сильно змінилася роль сучасних чат-ботів.
Люди використовують ШІ не лише для пошуку відповідей. Вони розповідають йому про особисті проблеми, стосунки, страхи, конфлікти та навіть найтемніші думки.
У певному сенсі чат-бот стає цифровим співрозмовником, якому людина може повідомити те, чого не скаже друзям, родичам або навіть психологу.
Саме тому питання безпеки таких систем стає дедалі складнішим.
З одного боку, якщо людина відкрито описує реальний план насильства, і система може вчасно розпізнати загрозу, це потенційно дозволяє врятувати життя.
З іншого боку, виникає фундаментальне питання: де закінчується приватна розмова користувача з технологією і починається обов'язок запобігати злочину?
Однозначної відповіді на це питання немає.
ChatGPT вже критикували через небезпечні ситуації
Цей випадок також привертає увагу через попередню критику систем штучного інтелекту.
ChatGPT та інші подібні сервіси неодноразово опинялися під тиском через ситуації, коли користувачі використовували їх для обговорення насильства, самогубства або інших небезпечних сценаріїв.
Критики вимагали, щоб системи краще розпізнавали моменти, коли людина переходить від абстрактних розмов до реальної загрози.
Водночас створити ідеальний механізм виявлення таких випадків надзвичайно складно.
Людина може написати вигадану історію про злочин. Може працювати над сценарієм фільму. Може проводити дослідження для книги. А може справді готувати напад.
Для алгоритму всі ці ситуації можуть виглядати схожими.
Тому сучасні системи безпеки повинні намагатися враховувати не лише окремі слова, а й контекст, послідовність повідомлень та ознаки реальної загрози.
Саме тому в описаному випадку важливим стало поєднання кількох факторів: конкретна потенційна жертва, переслідування, детальний опис намірів і реальні обставини особистого конфлікту.
Ще одна трагедія, пов'язана з ChatGPT
Ця історія стала особливо резонансною на тлі іншого випадку у США.
Раніше 17-річного підлітка звинуватили у вбивстві матері та молодшого брата. Слідство встановило, що до трагедії він створював у ChatGPT історії та сценарії, пов'язані з убивством членів своєї родини.
Ці випадки відрізняються за обставинами, але разом вони демонструють нову проблему, з якою суспільство лише починає вчитися працювати.
Штучний інтелект може бути інструментом для навчання, творчості, роботи та комунікації. Але водночас він може стати місцем, де людина формулює небезпечні наміри або шукає підтвердження власним деструктивним думкам.
Тому питання безпеки ШІ вже не можна розглядати лише як технічну проблему.
Чи стане ШІ новим інструментом для правоохоронців?
Випадок із Чжоу може мати значно ширші наслідки.
Якщо технологічні компанії зможуть ефективно виявляти реальні погрози, це потенційно відкриває новий напрям у запобіганні злочинам. ШІ може стати своєрідним додатковим рівнем раннього попередження.
Але тут необхідні дуже чіткі правила.
Не кожна агресивна фраза означає реальний злочинний намір. Не кожна розмова про насильство є підготовкою нападу. І не кожна тривожна думка повинна автоматично ставати приводом для втручання правоохоронців.
Інакше технологія, створена для допомоги людям, може перетворитися на систему тотального спостереження.
Саме тому майбутнє таких механізмів залежатиме не лише від того, наскільки добре алгоритми вміють розпізнавати небезпечний контент. Не менш важливими будуть прозорі процедури, людська перевірка та чіткі юридичні критерії.
ШІ, який не просто відповідає, а може попередити трагедію
Історія з Флориди показує, що штучний інтелект поступово виходить за межі звичайного інструменту для генерації текстів.
У цьому випадку ChatGPT не просто відповідав на запити. Система безпеки виявила повідомлення, які могли свідчити про реальну загрозу життю людини, після чого інформація потрапила до правоохоронців.
Найважливішим результатом стало те, що злочин, за даними справи, вдалося зупинити до його реалізації.
Проте ця історія не означає, що штучний інтелект тепер може гарантувати безпеку або автоматично виявляти кожного потенційного злочинця. Технології мають обмеження, а остаточні рішення повинні залишатися за людьми та відповідними органами.
Водночас подібні випадки демонструють, наскільки важливим стає відповідальний розвиток ШІ.
Технологія, здатна створювати тексти за секунди, аналізувати величезні обсяги інформації та вести діалог із мільйонами людей, повинна вміти не лише бути корисною, а й розпізнавати моменти, коли за екраном може ховатися реальна небезпека.
У випадку з 21-річною дівчиною ця здатність, за наведеними даними, могла стати вирішальною. Потенційна трагедія не стала реальністю, а цифровий слід, який залишив чоловік у спілкуванні з ШІ, допоміг правоохоронцям втрутитися вчасно.
І це, можливо, один із найважливіших уроків цієї історії: штучний інтелект дедалі частіше стає не просто інструментом у руках людини, а частиною системи, яка має допомагати суспільству вчасно помічати небезпеку.
