OpenAI, який часто викликає занепокоєння як флагман технологічної індустрії, що просуває штучний інтелект, вносить суттєві зміни у свою управлінську команду і навіть у свою організацію, намагаючись залучити інвестиції від деяких найбагатших компаній у світі.
За останні кілька місяців OpenAI, розробник онлайн-чату ChatGPT, найняв на роботу цілу плеяду технічних керівників, експертів з дезінформації та дослідників безпеки штучного інтелекту. Компанія також додала сім членів правління - в тому числі чотиризіркового генерала армії, який очолював Агентство національної безпеки, - одночасно переглянувши зусилля, спрямовані на забезпечення того, щоб її технології штучного інтелекту не завдавали серйозної шкоди.
OpenAI також веде переговори з такими інвесторами, як Microsoft, Apple, Nvidia та інвестиційна компанія Thrive, про угоду, яка може оцінити її в 100 мільярдів доларів. І компанія розглядає можливість змін у своїй корпоративній структурі, які б полегшили залучення інвесторів.
Стартап із Сан-Франциско, після багаторічного публічного конфлікту між керівництвом і деякими з його провідних дослідників, намагається виглядати більш схожою на серйозну компанію, готову очолити похід технологічної індустрії до штучного інтелекту. OpenAI також намагається відсунути на задній план гучну минулорічну боротьбу за посаду генерального директора Сема Альтмана.
Але інтерв'ю з більш ніж 20 нинішніми і колишніми співробітниками і членами правління OpenAI показують, що перехідний період був важким. Перші співробітники продовжують звільнятися, навіть незважаючи на прихід нових працівників і нових керівників. І швидке зростання не вирішило фундаментального питання про те, чим має бути OpenAI: Це передова лабораторія штучного інтелекту, створена на благо людства, чи гігант індустрії, націлений на отримання прибутку?
Сьогодні в OpenAI працює понад 1700 співробітників, і 80 відсотків з них почали працювати після виходу ChatGPT у листопаді 2022 року. Пан Альтман та інші лідери очолили набір керівних кадрів, а новий голова, Брет Тейлор, колишній керівник Facebook, контролював розширення ради директорів.
«Хоча стартапи повинні природно розвиватися і адаптуватися в міру зростання їх впливу, ми визнаємо, що OpenAI здійснює цю трансформацію безпрецедентними темпами», - сказав пан Тейлор в заяві, надісланій електронною поштою в The New York Times. «Наша рада директорів і віддана команда OpenAI як і раніше зосереджені на безпечному створенні ШІ, який може вирішувати складні проблеми для всіх».
Деякі з нових керівників відігравали важливу роль в інших технологічних компаніях. Сара Фріар, новий фінансовий директор OpenAI, була генеральним директором Nextdoor. Кевін Вайль, новий директор по продуктам OpenAI, був старшим віце-президентом по продуктам в Twitter. Бен Німмо очолив боротьбу Facebook проти оманливих кампаній у соціальних мережах. Хоакін Кандела наглядав за зусиллями Facebook щодо зменшення ризиків, пов'язаних зі штучним інтелектом. Тепер ці двоє чоловіків виконують схожі ролі в OpenAI.
У п'ятницю OpenAI також повідомила співробітникам, що Кріс Лехейн, ветеран Білого дому Клінтона, який обіймав керівну посаду в Airbnb і приєднався до OpenAI цього року, стане керівником відділу глобальної політики.
Але з 13 осіб, які допомогли заснувати OpenAI наприкінці 2015 року з метою створення штучного загального інтелекту, або A.G.I. - машини, яка може робити все, що може робити людський мозок, - залишилося лише троє. Один з них, Грег Брокман, президент компанії, взяв відпустку до кінця року, посилаючись на необхідність відпочити після майже десятирічної роботи.
«Досить часто доводиться бачити подібні додавання - а також віднімання - але ми знаходимося під таким яскравим світлом, - сказав Джейсон Квон, директор зі стратегії OpenAI. «Все стає збільшеним».
З перших днів свого існування як некомерційної дослідницької лабораторії OpenAI боровся з суперечками щодо своїх цілей. У 2018 році Ілон Маск, її головний спонсор, пішов після суперечки з іншими засновниками. На початку 2022 року група ключових дослідників, стурбованих тим, що комерційні сили проштовхують технології OpenAI на ринок до того, як будуть створені належні запобіжники, покинули лабораторію і створили конкуруючу компанію Anthropic, яка займається розробкою штучного інтелекту.
Керуючись подібними побоюваннями, рада директорів OpenAI несподівано звільнила пана Альтмана наприкінці минулого року. Через п'ять днів він був відновлений на посаді.
OpenAI розділилася з багатьма співробітниками, які ставили під сумнів діяльність пана Альтмана, а також з тими, хто був менш зацікавлений у створенні звичайної технологічної компанії, ніж у проведенні передових досліджень. Підтримуючи скарги інших співробітників, один дослідник звільнився через намагання OpenAI відібрати у працівників акції компанії, що потенційно коштують мільйони доларів, якщо вони публічно висловляться проти неї. З тих пір OpenAI змінила цю практику.
OpenAI керується двома силами, які не завжди сумісні.
З одного боку, компанією керують гроші - багато грошей. За словами людини, знайомої з її доходами, річний дохід компанії перевищив 2 мільярди доларів. Щотижня ChatGPT має понад 200 мільйонів користувачів - удвічі більше, ніж дев'ять місяців тому. Незрозуміло, скільки компанія витрачає щороку, хоча, за однією з оцінок, ця цифра становить 7 мільярдів доларів. Microsoft, яка вже є найбільшим інвестором OpenAI, виділила 13 мільярдів доларів на розвиток компанії ШІ.
Але OpenAI розглядає можливість внесення значних змін до своєї структури, оскільки шукає більше інвестицій. Наразі правління оригінальної OpenAI, сформованої як неприбуткова організація, контролює організацію без офіційного втручання інвесторів. За словами трьох людей, знайомих з ходом переговорів, OpenAI розглядає можливість змін, які зроблять її структуру більш привабливою для інвесторів. Але вона ще не визначилася з новою структурою.
OpenAI також керується технологіями, які турбують багатьох дослідників ШІ, в тому числі і деяких співробітників OpenAI. Вони стверджують, що ці технології можуть допомогти поширювати дезінформацію, керувати кібератаками або навіть знищити людство. Ця напруженість призвела до вибуху в листопаді, коли четверо членів правління, включаючи головного науковця і співзасновника Іллю Суцкевера, звільнили пана Альтмана.
Після того, як пан Альтман відновив свій контроль, над компанією нависла хмара. Доктор Суцкевер так і не повернувся до роботи.
(У грудні газета The Times подала до суду на OpenAI і Microsoft за порушення авторських прав на новинний контент, пов'язаний з системами штучного інтелекту).
Разом з іншим дослідником, Яном Лейке, доктор Сацкевер створив команду OpenAI «Superalignment», яка досліджувала способи гарантування того, що її майбутні технології не завдадуть шкоди.
У травні доктор Суцкевер покинув OpenAI і заснував власну компанію зі створення штучного інтелекту. За кілька хвилин доктор Лейке також пішов, приєднавшись до Anthropic. «Культура безпеки та процеси відійшли на другий план перед блискучими продуктами», - сказав він. Д-р Суцкевер і д-р Лейке не відповіли на прохання про коментар.
За ними за двері вийшли й інші.
«Я все ще боюся, що OpenAI та інші компанії, що займаються ШІ, не мають адекватного плану управління ризиками систем ШІ на рівні людини і поза людським рівнем, на створення яких вони збирають мільярди доларів», - сказав Вільям Сондерс, дослідник, який нещодавно залишив компанію.
Після того, як доктори Сацкевер і Лейке пішли, OpenAI перевела свою роботу під керівництво іншого співзасновника, Джона Шульмана. У той час як команда Superalignment зосередилася на шкоді, яка може статися через роки в майбутньому, нова команда досліджувала як короткострокові, так і довгострокові ризики.
У той же час OpenAI найняла пані Фріар на посаду фінансового директора (раніше вона обіймала ту ж посаду в Square), а пана Вайла - на посаду директора по продукту. Пані Фріар і пан Вайль не відповіли на запити про коментарі.
Деякі колишні керівники, які говорили на умовах анонімності, оскільки підписали угоди про нерозголошення, висловили скептицизм щодо проблемного минулого OpenAI. Троє з них вказали на Олександра Мадрі, який колись очолював команду готовності OpenAI, що досліджувала катастрофічні ризики, пов'язані зі штучним інтелектом. Після розбіжностей щодо того, як він і його команда впишуться в більшу організацію, доктор Мадрі перейшов до іншого дослідницького проекту.
Коли деякі співробітники звільнялися, їх попросили підписати юридичні документи, в яких йшлося про те, що вони втратять свої акції OpenAI, якщо висловляться проти компанії. Це викликало нові занепокоєння серед співробітників, навіть після того, як компанія скасувала цю практику.
На початку червня дослідник Тодор Марков розмістив повідомлення у внутрішній системі повідомлень компанії, оголосивши про свою відставку через це питання, згідно з копією повідомлення, яку переглянула The Times.
Він заявив, що керівництво OpenAI неодноразово вводило співробітників в оману щодо цього питання. Через це, за його словами, керівництву компанії не можна довіряти створення A.G.I. - відлуння того, що говорило правління компанії, коли звільняло пана Альтмана.
«Ви часто говорите про нашу відповідальність за безпечний розвиток A.G.I. і широкий розподіл вигод, - написав він. «Як ви очікуєте, що вам довірять цю відповідальність?»
Через кілька днів OpenAI оголосила, що Пол М. Накасоне, генерал армії США у відставці, приєднався до її правління. Нещодавно вдень його запитали, що він думає про середовище, в яке потрапив, враховуючи, що він був новачком у сфері ШІ.
«Новачок в ШІ? Я не новачок в ШІ, - відповів він у телефонній розмові. «Я керував АНБ, я займався цим роками».
Минулого місяця доктор Шульман, співзасновник, який допомагав наглядати за новими заходами безпеки OpenAI, також звільнився з компанії, заявивши, що хоче повернутися до «практичної» технічної роботи. Він також приєднався до Anthropic.
«Масштабувати компанію дуже важко. Ви повинні постійно приймати компромісні рішення. І деяким людям ці рішення можуть не подобатися, - каже пан Квон. «Все набагато складніше».
