‘Там таится определенная опасность’: как изобретатель первого чат-бота выступил против ИИ

May 30, 2023

Ученый-компьютерщик Джозеф Вайценбаум был на заре искусственного интеллекта, но он также был непреклонен в том, что мы никогда не должны путать компьютеры с людьми.

В 1966 году профессор Массачусетского технологического института Джозеф Вайценбаум создал первого чат-бота. Он взял его на роль психотерапевта. Пользователь печатал сообщение на электрической пишущей машинке, подключенной к мэйнфрейму. Через мгновение «психотерапевт» ответил.

Пользователь: Мужчины все одинаковы. Чат-бот: В ЧЕМ Пользователь: Они всегда беспокоят нас по тому или иному поводу. Чат-бот: МОЖЕТЕ ПРИДУМАТЬ КОНКРЕТНЫЙ ПРИМЕР Пользователь: Ну, мой парень заставил меня прийти сюда. Чат-бот: ВАШ ПАРЕНЬ ЗАСТАВИЛ ВАС ПРИЙТИ ЗДЕСЬПользователь: Он говорит, что я большую часть времени в депрессии. Чат-бот: Мне жаль слышать, что вы в депрессии.

Вайценбаум опубликовал этот образец обмена в журнальной статье, в которой объяснялось, как работает чат-бот. Программное обеспечение было относительно простым. Он просматривал вводимые пользователем данные и применял набор правил для генерации правдоподобного ответа. Он назвал программу «Элиза» в честь Элизы Дулиттл из «Пигмалиона». Цветочница кокни в пьесе Джорджа Бернарда Шоу использует язык, чтобы создать иллюзию: она поднимает свое красноречие до такой степени, что может сойти за герцогиню. Точно так же Элиза говорила так, чтобы создать иллюзию того, что она понимает человека, сидящего за пишущей машинкой.

«Некоторых героев было очень трудно убедить в том, что Элиза (с ее нынешним сценарием) не человек», — писал Вайценбаум. В последующей статье, появившейся в следующем году, он был более конкретен: однажды, по его словам, его секретарь попросила провести время с Элизой. Через несколько мгновений она попросила Вайценбаума выйти из комнаты. «Я считаю, что этот анекдот свидетельствует об успехе, с которым программа поддерживает иллюзию понимания», — отметил он.

Элиза не совсем неясна. В то время это вызвало переполох – газета Boston Globe послала репортера сесть за пишущую машинку и напечатать отрывок из разговора – и остается одним из самых известных событий в истории вычислительной техники. Совсем недавно выпуск ChatGPT возобновил интерес к нему. За последний год Элизу упоминали в Guardian, New York Times, Atlantic и других изданиях. Причина, по которой люди до сих пор думают о программном обеспечении, которому почти 60 лет, не имеет ничего общего с его техническими аспектами, которые не были особенно сложными даже по стандартам того времени. Скорее, Элиза осветила механизм человеческого разума, который сильно влияет на то, как мы относимся к компьютерам.

В начале своей карьеры Зигмунд Фрейд заметил, что его пациенты продолжают влюбляться в него. Он пришел к выводу, что это произошло не потому, что он был исключительно обаятельным или красивым. Вместо этого происходило нечто более интересное: перенос. Вкратце, перенос относится к нашей склонности проецировать чувства по отношению к кому-то из нашего прошлого на кого-то в нашем настоящем. Хотя это усиливается в психоанализе, это особенность всех отношений. Когда мы взаимодействуем с другими людьми, мы всегда приглашаем на встречу группу призраков. Остатки нашей прежней жизни и, прежде всего, нашего детства — это экран, через который мы видим друг друга.

Эта концепция помогает понять реакцию людей на Элизу. Вайценбаум наткнулся на компьютеризированную версию переноса, когда люди приписывали программное обеспечение понимание, сочувствие и другие человеческие характеристики. Хотя сам он никогда не использовал этот термин, у него был долгий опыт работы в психоанализе, который четко определял, как он интерпретировал то, что впоследствии было названо «эффектом Элизы».

Поскольку компьютеры стали более функциональными, эффект Элизы только усилился. Возьмите то, как многие люди относятся к ChatGPT. Внутри чат-бота находится «большая языковая модель» — математическая система, обученная предсказывать следующую строку символов, слов или предложений в последовательности. Что отличает ChatGPT, так это не только сложность большой языковой модели, лежащей в его основе, но и его устрашающий разговорный голос. Как выразился Колин Фрейзер, специалист по данным из Meta, приложение «создано, чтобы обмануть вас, заставить вас думать, что вы разговариваете с кем-то, кого на самом деле там нет».