У самому центрі Берклі, Каліфорнія, старий готель перетворився на «святилище» майбутнього людства. Lighthaven — це не просто кампус. Це фактично новий релігійний центр для спільноти Rationalists, яка проповідує віру в силу штучного інтелекту й необхідність контролювати його розвиток, аби уникнути знищення людства.
Цей рух давно вийшов за межі інтернет-форумів і став політичною та культурною силою в Кремнієвій долині. Його ідеї впливають на Google, OpenAI, Anthropic, а філософія раціональності стала «інтелектуальною валютою» в середовищі топових AI-дослідників.
«Послідовності» Еліезера Юдковського керували раціоналістичною думкою — Лорен Елліотт
Що таке Rationalists і чому це важливо
Rationalists — це неформальна спільнота інтелектуалів, які просувають ідеї логіки, прогнозування, штучного інтелекту, ефективного альтруїзму та особистої продуктивності. Їхня головна тривога — це неконтрольований розвиток ШІ, який може знищити людство.
Базовий текст руху — «Sequences» Еліезера Юдковського. Це збірка філософських та методологічних есе, яка формує основи мислення учасників. Їхнє щотижневе читання в Lighthaven нагадує біблійні студії, а весняні конференції LessOnline збирають сотні прибічників.
Технологія як релігія: нова форма віри
У Lighthaven панує атмосфера секулярної духовності: статуї, фонтани, скляні вітражі, ритуали на зимове сонцестояння й пісні про технологічний прогрес. Професорка теології Ілія Деліо відзначає, що це має всі риси релігії: тексти, історії, ритуали та громаду.
Усе це створює привабливе середовище для молодих інтелектуалів, які відкидають традиційну віру. Наприклад, дослідниця штучного інтелекту Соня Джозеф уперше дізналася про Rationalists у 14 років через роман "Harry Potter and the Methods of Rationality" — альтернативну історію, в якій магія пояснюється через науку й логіку.
Спільнота пов’язана з рухом ефективного альтруїзму (EA), який намагається максимізувати користь кожного долара благодійності. Вони вважають, що найефективніше вкладення — це захист людства від майбутніх загроз, зокрема з боку ШІ.
Фінансову підтримку руху надають мільярдери: Ян Таллінн (Skype), Дастін Московіц (Facebook), а раніше й Сем Бенкман-Фрід (FTX), який згодом був засуджений за шахрайство. Частину Lighthaven було придбано саме на його кошти.
Алекс Чен, давній член раціоналістичного руху, у своєму районі в Кембриджі, штат Массачусетс — Кассандра Клос
Політичний та академічний вплив
У 2023 році члени ради OpenAI, пов’язані з Rationalists, звільнили Сема Альтмана — вони не довіряли йому в питанні безпеки ШІ. Це стало гучною подією, яка продемонструвала реальний вплив ідеології Rationalists на стратегічні рішення в технологічних компаніях.
Програма MATS (Machine Learning Alignment and Theory Scholars), яку щоліта проводять у Lighthaven, стала однією з головних доріг у сферу AI-безпеки. Її випускники отримують запрошення від компаній Anthropic, OpenAI, Meta.
Спільнота не уникла скандалів. У групових домах фіксували випадки сексуальних домагань, піднімалися теми евгеніки та расових теорій. Після справи Бенкмана-Фріда репутація Rationalists і EA серйозно постраждала. Водночас, ідеї спільноти продовжують набирати популярності в академічному та бізнес-середовищі.
Критики порівнюють рух із культом. Грег Епштейн з Гарварду каже: «Це має всі ознаки фундаменталістської секти: ідеалізація майбутнього, ігнорування сучасних проблем, елітарність і непрозорість».
Промови під час святкування Solstice у 2024 році містили апокаліптичні передбачення: ядерна війна, біопандемії, неконтрольований ШІ. «Якщо ми зазнаємо поразки — помруть усі діти. І всі решта також», — сказав ведучий.
Це культ раціональності, який боїться власного творіння — суперінтелектуального ШІ, і при цьому намагається його створити. Парадокс, який стає реальністю в технологічній столиці світу.
На території Лайтхейвена є вишукані статуї та квіти — Джейсон Генрі
