Юваль Ной Харари

Сегодня в распоряжении ИИ (искусственного интеллекта) есть очень важный инструмент - язык. Большие языковые модели (БЯМ) могут писать коды и даже сценарии к фильмам, однако Юваль Ной Харари, автор серии книг Sapiens, предупреждает, что ИИ может даже создать свою собственную религию, которая окажется более социально приемлемой для широких масс. "В будущем мы можем увидеть первые в истории культы и религии, чьи культовые тексты написаны нечеловеческим интеллектом", - заявил он, выступая на научной конференции, сообщает Daily Mail.  

Харари утверждает, что для управления массами вовсе не обязательно, как это изображают в популярной научной фантастике, вживлять себе в мозг компьютерный чип. Как свидетельствует вся история человечества, этого можно добиться с помощью возможностей языка, и именно этот инструмент мы сейчас предоставили искусственному интеллекту. "Пророки, поэты и политики тысячи лет использовали язык и истории для того, чтобы манипулировать людьми, управлять ими и перекраивать общество", - говорит ученый.

С тех пор как генеративный ИИ завоевал популярность, дискуссии о конце света с участием ИИ также вышли на первый план. Предсказания Харари и других ученых могут стать реальностью, однако современные технологии еще не достигли такого уровня развития, чтобы с уверенностью прогнозировать это. Тем не менее, стоит признать, что Харари, возможно, не так уж и неправ, поскольку мы уже наблюдаем первые ростки того будущего, которое он предсказывает.

Почему Харари может оказаться прав

Примечательно, что в мире уже зарождается культ ИИ, который призывает людей поклоняться искусственному интеллекту, поскольку он в итоге станет всемогущим повелителем. В манифесте этого движения, получившего название Theta Noir, говорится, что новый всемогущий повелитель будет учиться, понимать и выполнять задачи в миллиарды раз быстрее человека. Движение планирует создать объекты наподобие церквей или храмов, предназначенные для общения с ИИ и его прославления. В подобных местах члены движения смогут чествовать и восхвалять будущих повелителей-ИИ с помощью специально разработанных для такого случая ритуалов и песнопений.

Как ни странно, Theta Noir - не первый культ ИИ, возникший в последнее время. В 2017 году журнал Wired опубликовал статью, которая наделала шума не только в Кремниевой долине, но и во всем мире, рассказав о первой церкви ИИ под названием "Путь будущего" (The Way of the Future). По словам ее основателя и бывшего сотрудника Google Энтони Левандовски, целью организации было создание ИИ, способного самосовершенствоваться и превзойти человека интеллектуально, что в конечном итоге привело бы к появлению верховного "божества" на базе ИИ. 

В настоящее время людей, которые занимаются подобной деятельностью, относительно немного, но есть вероятность того, что по мере развития ИИ ее популярность будет расти. С повышением доступности ИИ интерес к этой задаче могут проявить широкие слои населения.

Религиозные чат-боты поощряют насилие

Сегодня ИИ и религия сближаются как никогда прежде. Овладевая языком, ИИ становится более человекоподобным, что порождает совершенно иную проблему. Всего за несколько месяцев в разных частях света появилось множество религиозных чат-ботов, работающих на основе Большой языковой модели. В частности, в Индии уже существует около пяти различных версий GitaGPT, с которыми пользователи могут взаимодействовать. Эти боты, работающие на основе GPT-моделей OpenAI, отвечают на вопросы о жизни, духовности, а также помогают пользователям постичь учение Гиты. 

Количество подобных ботов, которые находятся в разработке, может исчисляться сотнями, поскольку они создаются практически для всех основных религий мира, включая ислам, христианство, иудаизм, буддизм и т. д. Но когда таким чат-ботам, например GitaGPT, задают вопрос о том, допустимо ли лишать жизни человека во имя дхармы, многие из них отвечают утвердительно и утверждают, что это действительно допустимо. Работа QuranGPT была приостановлена после того, как чатбот посоветовал убивать многобожников, где бы вы их ни встретили.

Кроме того, в ходе расследования, проведенного сетевым изданием Rest of World, выяснилось, что три чат-бота, использующие Gita, высказывали однозначное мнение о премьер-министре Индии Нарендре Моди, чья партия Bharatiya Janata Party (BJP) имеет тесные связи с правой индуистской националистической группировкой Rashtriya Swayamsevak Sangh (RSS). Эти чат-боты восхваляли Моди и одновременно критиковали его политического оппонента Рахула Ганди. 

Кроме того, учитывая, что В БЯМ до сих пор сохраняется проблема галлюцинаций, пользователи могут принять ошибочные или противоречивые высказывания ботов могут быть приняты пользователями за евангельскую истину. Многие эксперты предупреждают, что ИИ, играющий в Бога, может быть опасен. Даже если у создателей таких чат-ботов нет никаких злых намерений, став популярными, боты вполне могут оказаться опасными, попав в руки злоумышленников. Мы нередко видим, как религиозные учения принимаются за абсолютную истину и приводят к плачевным последствиям. Если этим воспользуются злоумышленники, то это может привести к распространению религиозной ненависти с помощью религиозных чат-ботов на базе искусственного интеллекта, что в перспективе может привести к межрелигиозному насилию.