Устаревание начинается тогда, когда мы перестаём чего-либо желать

Искусственный интеллект занимает центральное место в каждой дискуссии; он олицетворяет собой грядущую угрозу. Ожидается переломный момент: однажды машины станут умнее нас, и человечество обнаружит, что оно больше не доминирует в созидании. Наше устаревание начнётся не тогда, когда машины начнут мыслить лучше нас; они уже это делают. Мы можем создать агентов, которые идеально знают свою функцию за три минуты настройки, тогда как человеку на это потребовалось бы десять лет изучения. Устаревание начинается тогда, когда мы сами отказываемся от мышления, суждения, принятия на себя человеческого бремени и ответственности.

Рабство проникает постепенно: не через насилие, а через комфорт. Машина не устает. Она не сомневается. Она не страдает от контакта с реальностью. Она быстро реагирует, быстро принимает решения, быстро успокаивает. А мы, медлительные, нерешительные, противоречивые, в итоге принимаем собственные ограничения за недостаток. Современный человек не просто ненавидит свои ограничения: он стыдится их.

Долгое время человечество мирилось с ростом в рамках своих ограничений. В глубине души оно знало, что не является собственной мерилом. Оно получило свою жизнь и своё призвание. Затем оно стремилось освободиться от всякой вертикальности. Отвергая Бога, оно не просто отвергало веру; оно отказывалось позволять какой-либо власти упорядочивать, возвышать и судить его. Этот горизонтальный режим, не признававший никакой власти, кроме себя самого, теперь исчерпал себя. Таким образом, искусственный интеллект напоминает ему о самом себе и навязывает ему судьбу вместо свободы, от которой оно отказалось вместе со своим призванием.

Теперь, когда он создал существо, более разумное, чем он сам, что остаётся человеку? Тому, кто отрицал свою близость с Богом (чего никогда не мог знать ни один искусственный интеллект)?

В этом и заключается ключевой момент. Опасность заключается не просто в том, что искусственный интеллект однажды сможет создать приемлемое стихотворение, достоверный диагноз или правдоподобный совет по поводу брака. В каком-то смысле он уже это делает. Опасность состоит в том, что мы будем отдавать приоритет его скорости и полезности перед реальными людьми. Ребенок, который лепечет, пожилой человек, который бормочет, друг, который изо всех сил пытается подобрать нужные слова, священник, который колеблется перед ответом: все это становится невыносимо медленным в мире, насыщенном технологиями. Давайте постараемся не называть прогрессом то, что часто является всего лишь нетерпением, возведенным в ранг системы.

Жорж Бернанос предвидел эту нисходящую спираль задолго до нас: «Опасность заключается не в распространении машин, а в постоянно растущем числе людей, привыкших с детства желать лишь того, что могут дать машины» («Франция против роботов»). Это утверждение остается пугающим, потому что оно говорит не столько о технологиях, сколько о желаниях. Чего еще мы хотим, если статистика предоставляет нам все необходимое? Чего мы желаем, если не вычислений, синтеза и комфорта?

Священное Писание, говоря об идолах, бескомпромиссно заявляет: «Он всегда лучше того, чему поклоняется; по сравнению с ними он имеет жизнь, а они никогда не имели» (Книга Премудрости 15:16-17). Вся суть кроется именно в этом. Поклонение нашим инструментам — это не восхваление их; это начало сравнения себя с ними, а затем и презрение к самим себе. С этого момента человеческое устаревание перестаёт быть технической гипотезой. Оно становится духовным искушением.