Штучний інтелект стрімко вторгається в наше життя - і влада вже вбачає в ньому загрозу для людини. Економіст і юрист Роман Комиза розповідає про перші законодавчі спроби обмежити цю сферу.
І ось перші заборони для ШІ: закон "Про штучний інтелект" хочуть ухвалити в Європейському Союзі.
Два профільні комітети Європарламенту - Комітет з громадянських свобод і Комітет з питань внутрішнього ринку та захисту прав споживачів - попередньо схвалили законопроект (AI ACT). У червні 2023 року за документ має проголосувати Європарламент в цілому, після чого його обговорять з Єврокомісією та винесуть на розгляд Ради ЄС.
Що таке Акт ЄС про штучний інтелект?
AI Act - це запропонований Європейський закон про штучний інтелект (ШІ) - перший закон про ШІ, прийнятий головним регуляторним органом у світі. Закон класифікує додатки штучного інтелекту за трьома категоріями ризику.
По-перше, заборонені програми та системи, які створюють неприйнятний ризик, наприклад, державний "соціальний рейтинг", що використовується в Китаї. По-друге, додатки з високим рівнем ризику, такі як інструмент для сканування резюме, який ранжує претендентів на роботу, підпадають під певні юридичні вимоги. Нарешті, по-третє, додатки, які прямо не заборонені і не віднесені до категорії високого ризику, залишаються значною мірою нерегульованими.
Загалом документ окреслює правила для систем на основі ШІ - систем розпізнавання облич, генеративних нейронних мереж, безпілотних автомобілів та інших.
Компанії, які використовують інструменти штучного інтелекту, повинні будуть оцінювати свої потенційні ризики з точки зору "здоров'я, безпеки, фундаментальних прав, навколишнього середовища, демократії та верховенства права".
Проєкт забороняє використання біометричних систем розпізнавання обличчя та інших систем "віддаленої біометричної ідентифікації" в режимі реального часу в громадських місцях. Крім того, буде заборонено "розпізнавання емоцій" - поліцією, роботодавцями та навчальними закладами.
Також забороняється використання ШІ для класифікації людей за статтю, расою, етнічною приналежністю, громадянством, релігією та політичною позицією. Окремо забороняється збір біометричних даних з камер і соціальних мереж, які планується використовувати для створення бази даних розпізнавання облич.
Поліція хоче заборонити використання систем предиктивної аналітики - для прогнозування правопорушень, коли ШІ "пророкує", що людина може скоїти злочин.
До "систем підвищеної небезпеки" проєкт відносить безпілотні автомобілі, медичні прилади зі штучним інтелектом та інші, вихід з ладу яких може призвести до ризиків для здоров'я та інших тяжких наслідків.
Законопроект не забороняє використання генеративного ШІ (наприклад, GPT, інших чат-ботів на основі нейронних мереж та інших моделей). Але є певні вимоги щодо "прозорості". Контент повинен буде маркуватися, що його згенерував штучний інтелект, а творці повинні будуть розкривати список того, яка інформація, захищена авторським правом, була використана для навчання.
За порушення компанії можуть бути оштрафовані на суму до 30 мільйонів євро або 6% річного доходу.
