В новой энциклике об искусственном интеллекте Папа Лев XIV формулирует принцип, который требует внимания каждого: технология никогда не бывает нейтральной. «Магнифика Человечность» (Magnifica Humanitas) - это призыв к солидарности и мужеству в эпоху, которую ИИ меняет сильнее, чем промышленная революция. Папа говорит, что выбор, который стоит перед человечеством, - это выбор между Вавилонской башней и восстановлением нашего общего достоинства.
Две библейские истории и выбор человечества
В истории о Вавилонской башне люди стремились построить сооружение до небес, одержимые идеей безграничного роста. Они игнорировали моральные заповеди и человеческие ценности. В результате проект провалился, а общество распалось на изолированные группы, утратившие взаимопонимание.
Книга Неемии предлагает другой сценарий. Восстановление Иерусалима после разрушений стало делом всего сообщества. В работе участвовали мужчины и женщины, священники и ремесленники, главы семейств и молодежь. Город возродился не по воле одного человека, а благодаря общим усилиям, где в центре была не личная выгода, а восстановление человеческих связей.
Эти две модели - путь к разобщению через эгоистичный рост и путь к единству через совместную ответственность - сегодня как никогда актуальны. Искусственный интеллект ставит нас перед тем же выбором.
ИИ - не стихия, а продукт
Папа Лев подчеркивает важную мысль: искусственный интеллект - это не непостижимая сила природы и не абстрактный разум. В первую очередь это коммерческий продукт. Он создается и внедряется в исторический момент, когда непропорционально большая власть над экономикой и обществом сосредоточена в руках крайне малой группы людей.
Когда государства не могут предложить эффективное регулирование, а корпорации не склонны выходить за рамки сиюминутной прибыли, ответственность ложится на общество. У людей есть не только право, но и долг направить развитие технологий в правильное русло.
Вакуум регулирования и роль инвесторов
Системы ИИ уже масштабно внедряются по всему миру, но надзор за ними остается минимальным. Не существует глобального совета по безопасности ИИ. Федеральная торговая комиссия США имеет ограниченные полномочия в отношении алгоритмов. Руководства Национального института стандартов и технологий большинство компаний игнорирует. Европейский акт об ИИ вступил в силу лишь частично и покрывает лишь малую долю реального применения технологий.
В этот вакуум шагнули институциональные инвесторы. Коалиции, такие как Межконфессиональный центр корпоративной ответственности, члены которого управляют активами на сумму более 400 миллиардов долларов, уже несколько лет вносят на собраниях акционеров резолюции. Они требуют от компаний прозрачности, оценки рисков и подотчетности в вопросах использования ИИ.
К ним присоединились светские институциональные инвесторы, которые рассматривают плохое управление ИИ как серьезный бизнес-риск.
Конкретные действия акционеров
Акционеры призывают к ответу технологических гигантов, включая Alphabet, Amazon, Nvidia, Palantir и Uber. Они настаивают, чтобы ИИ не использовался для актов насилия или других нарушений прав человека. Трагическим примером необходимости такого контроля стали первые часы войны с Ираном, когда искусственный интеллект помогал идентифицировать цели для тысяч ракетных ударов, унесших жизни сотен людей.
Инвесторы также бросили вызов руководству CVS и UnitedHealth Group, требуя гарантий, что ИИ не будет подрывать благополучие пациентов и качество медицинского обслуживания в США.
В компаниях Meta и Microsoft акционеры высказывают серьезную озабоченность экологическим следом дата-центров для ИИ. Эти центры потребляют колоссальное количество энергии и водных ресурсов, выбрасывая в атмосферу огромные объемы парниковых газов.
В креативных индустриях инвесторы требуют от Disney, Netflix и Warner Bros. прозрачности в использовании ИИ и защиты уникальной человеческой составляющей в искусстве storytelling.
Скоро, когда такие компании, как OpenAI, Anthropic и Grok, выйдут на публичные рынки, аналогичное влияние можно будет оказывать и на них.
Этика как общий фундамент
Действия ответственных инвесторов основаны на простых и непреложных истинах. Нельзя использовать технологию, чтобы убивать, причинять вред или угнетать людей. Каждый человек имеет право на безопасную и эффективную медицинскую помощь и возможность достойно зарабатывать на жизнь. Истории, которые мы рассказываем друг другу, имеют значение, и они требуют искры человеческого творчества.
Среди этих инвесторов-адвокатов есть представители разных религиозных традиций. Есть и те, кто не придерживается формальной религиозной веры. Но в своей информированной и настойчивой работе все они отражают призыв, заложенный в энциклике Папы Льва. Они действуют в соответствии с ее ключевым тезисом: «Крайне важно, чтобы использование ИИ, особенно когда оно затрагивает общественные блага и фундаментальные права, руководствовалось четкими критериями и эффективным надзором».
Как мы встретим этот момент?
Энциклики отмечают вехи времени. Как нас запомнят через сто лет? Сочтут ли наше поколение слишком робким и недальновидным, чтобы помешать кучке невероятно богатых и корыстных людей захватить контроль над общей судьбой человечества?
Или же грядущие годы войдут в историю как поворотный момент, который помог нам восстановить нашу общую человечность? Пусть это будет время, когда люди доброй воли и разных талантов объединятся через свою великую человечность, чтобы построить будущее, достойное Творца.