Споры об ИИ давно вышли за пределы футурологических форумов. На прошлой неделе стало очевидно — мы имеем дело не с дискуссией, а с настоящим столкновением мировоззрений, где каждая сторона претендует на определение того, что значит быть человеком.
Суть конфликта формулируется просто: проблема не в том, что машины становятся быстрее или умнее. Дело в другом — часть разработчиков ИИ объявила себя демиургами и пытается загнать всё человечество внутрь машинной логики. Человеческую личность переопределяют: не как личность, а как носителя генетической информации, мозг — как нейрокомпьютер, а бессмертие — как «динамический перенос» сознания на другой носитель. О душе, получается, можно забыть.
Манифест Palantir: ставка на доминирование
Весной этого года гендиректор Palantir Алекс Карп опубликовал манифест, из которого следует: новейшие разработки должны работать не на комфорт, а на «глобальное доминирование и силовое превосходство США над остальным миром». Позиция жёсткая, но его соучредитель Питер Тиль идёт ещё дальше.
Тиль называет цивилизацию мира и безопасности «царством Антихриста», а ИИ — двигателем прогресса, открывающим «простор для человеческой деятельности и свободы». Отсюда логика: «человек не может и не должен контролировать ИИ». Технологическое развитие должно ускоряться настолько, чтобы ни один орган власти не успевал его регулировать. Илон Маск, кстати, недавно подтвердил эту линию, заявив, что ИИ «может убить нас всех». Своеобразная честность.
Ватикан ответил
Реакция не заставила себя ждать. Неделю назад папа Лев XIV выпустил энциклику Magnifica Humanitas — «О защите человеческой личности в эпоху искусственного интеллекта». Обращение адресовано всем католикам мира.
Папа сравнил развитие ИИ со строительством Вавилонской башни и призвал правительства замедлить разработки, обеспечив строгое регулирование. Но главное — три тезиса из энциклики, которые звучат как прямой ответ на онтологию Тиля.
Во-первых, «человечество, отказавшееся от Бога, не станет божественным — оно развоплотится в цифровую пыль». Во-вторых, «истина не рождается из статистической погрешности больших данных». В-третьих, «нельзя сводить тайну человеческой души к сумме поведенческих предикторов».
Никаких конкретных механизмов контроля в документе нет — папа передаёт эту задачу специалистам. Но важен сам факт: крупнейшая религиозная институция планеты выступила с прямой декларацией против нового технологического порядка.
Что я об этом думаю
Наблюдаю со стороны — и вижу, что разговор поставлен ребром. С одной стороны, позиция «пусть ИИ бежит вперёд, человек не успеет вмешаться» — это, по сути, ставка на то, что технология сама решит, что для нас хорошо. Причём делают её люди, которые на этом зарабатывают. Совпадение, не правда ли?
С другой стороны, энциклика папы — это не технический документ, а философская позиция. Здравая, кстати: истина действительно не возникает из погрешности. Но и регуляторных рычагов у католической церкви ноль. Призыв к правительствам — это красиво, но кто именно и как будет замедлять?
В общем, схватка только начинается. И она не про технологии — она про то, кто будет определять, что считать человеком.
