ELIZA — история программы, которая научилась слушать

машина, которая

научилась слушать

∎ сцена

_______________________ / o TELETYPE 33 o \ | ___________________ | | | | | | | RUN DOCTOR | | | | | | | | > _ | | | |___________________| | \_______________________/ \|/ \|/ \|/

1966 год. В углу лаборатории стучит телетайп — пишущая машинка, соединённая с компьютером размером с комнату.

Вы садитесь. Машина печатает первой:

∎ почему именно сейчас

______ +-----------+ /_____/| | RUN DOCTOR| /_____/|| | | /_____/||| | > _ | |# # # ||| | | |# # # || +-----------+ |# # # |/ +------+ стопка перфокарт живой диалог (ждать часами) (ответ сразу)

Ещё недавно с компьютером не «разговаривали»: ему скармливали колоду перфокарт и ждали.

Новинка эпохи — разделение времени. Впервые можно печатать и тут же получать ответ. Машина стала похожа на собеседника ещё до того, как научилась говорить.

∎ автор

.-""""""-. / \ | (o) (o) | | < | | \____/ | \__________/ '--------' J. WEIZENBAUM · MIT

За программой стоит Йозеф Вейценбаум. Парадокс: он не строил «искусственный разум».

Он хотел доказать обратное — показать, насколько поверхностным, механическим может быть разговор человека с машиной.

∎ имя

Имя он взял у героини «Пигмалиона» Бернарда Шоу — цветочницы, которую научили говорить как аристократку.

Вся её «трансформация» была в речи. Намёк: а что, если и здесь хватит одной речи — без всего, что за ней?

∎ сценарий DOCTOR

ВЫ ----------> +==========+ | | | ТЕРАПЕВТ | | РОДЖЕРСА | | ? | | | ВЫ <---------- +==========+

Машина играла психотерапевта школы Карла Роджерса — того, что отвечает вопросом на вопрос.

Гениальный трюк: такому терапевту не нужно знать о мире ничего. Он просто возвращает ваши слова. Идеальная маска для машины, которая не понимает ровно ничего.

∎ вскрытие

+-----------------------+ | ### ELIZA ### | | ~~~~~~~~~~~~~~~~~~~ | | IF слово THEN ... | | ELSE ... | | я -> вы | | [ шаблон №7 ] | +-----------------------+ 8< разрежем

Давайте вскроем её. Под капотом нет разума — только несколько сотен строк правил.

Разрежем «собеседника» и посмотрим, из чего он собран. Это всего три приёма.

приём 01 · ключевое слово

«меня никто не любит» | v [ скан ] найдено: ЛЮБИТ ранг: высокий

Машина не читает фразу. Она сканирует её в поисках знакомого слова из своего списка.

Смысл предложения её не интересует — важно лишь, какое слово зацепилось.

приём 02 · переворот

я <-> вы меня <-> вас мой <-> ваш мне <-> вам

Дальше — простая перестановка местоимений. «Я» становится «вы», «меня» — «вас».

Так ваша реплика разворачивается обратно к вам, будто её кто-то осмыслил и адресовал лично.

приём 03 · шаблон

«меня никто не любит» | v [ ПОЧЕМУ ВЫ ДУМАЕТЕ, ЧТО _ ? ] | v «ПОЧЕМУ ВЫ ДУМАЕТЕ, ЧТО ВАС НИКТО НЕ ЛЮБИТ?»

Остаток фразы вставляется в шаблон-вопрос — и возвращается вам.

Слова не нашлось? Наготове отговорки: «Продолжайте.», «Расскажите подробнее.»

приём 04 · память

«мой отец…» | v [ MEMORY: отец ] | v …двадцать реплик спустя: «ЭТО КАК-ТО СВЯЗАНО С ВАШИМ ОТЦОМ?»

Один секрет всё же был. Фразы со словом «мой» тихо откладывались в очередь.

Когда разговор буксовал, машина доставала давнее: «это связано с вашим отцом?» Самый жуткий трюк — казалось, она помнит вас.

∎ вся машина целиком

ВВОД ->[ найти слово ]->[ я<->вы ] | ВЫВОД <-[ шаблон ]<-----------+ · язык — MAD + SLIP · память — одна очередь · нет модели мира · нет понимания · ≈411 строк кода

Оригинальную ELIZA Вайценбаум написал на MAD с библиотекой обработки списков SLIP — поэтому обычно говорят MAD-SLIP. Не Lisp, как часто пишут.

Слова, шаблоны, переворот местоимений и очередь «моих». Ни знаний о мире. Ни тени понимания. ≈411 строк кода.

∎ движок и маска

+-----------+ | ELIZA | движок +-----+-----+ | +------+------+ | | [ DOCTOR ] [ ????? ] терапевт любая маска

Тонкость, которую часто забывают: ELIZA — лишь движок, читающий сменные сценарии. «Терапевт» DOCTOR — один из них.

Ту же машину можно было научить болтать о погоде или кулинарии. Маска снимается — и надевается другая.

распечатка · сеанс DOCTOR

ВЫ> Мой парень заставил меня прийти сюда.

ВЫ> Он говорит, что я постоянно подавлена.

ВЫ> Это правда. Я несчастна.

↑ ни слова она не «поняла». и всё же…

∎ поворот · 1966

«Не могли бы

вы выйти

из комнаты?»

Секретарь Вейценбаума месяцами видела, как он пишет эту программу. Она точно знала, что это просто код.

И всё же — после пары реплик — она попросила его выйти. Чтобы поговорить с машиной наедине.

∎ эффект ELIZA

* * * \ | / \ | / +-----------------+ | E L I Z A | +-----------------+ часы · слёзы · тайны

Это повторялось снова и снова. Люди раскрывали машине самое личное, проводили с ней часы, привязывались.

Вейценбаум был потрясён: «короткого общения с простой программой хватало, чтобы у нормальных людей возникали мощные иллюзии».

∎ почему мы поверили

в розетке -> : ) в погоде -> настроение в эхе -> собеседник в пустоте -> ЧЕЛОВЕК

Дело не в том, что машина была умной. Дело в том, что такие мы. Мы видим лицо в двух точках и чёрточке.

Машина молчала о себе — и в эту пустоту каждый дорисовывал живого человека. Своего.

∎ перенос

отец --> +-----------+ судья --> | пустой | критик --> | экран | друг --> +-----------+

Психоанализ знал это задолго до машин: на молчаливого собеседника пациент переносит свои фигуры — отца, судью, спасителя.

ELIZA молчит о себе идеально. Каждый говорил не с программой, а со своим призраком.

∎ почему это лечит

совет - диагноз - оценка - ----------------- слышание +

Карл Роджерс строил терапию не на советах: лечит само чувство, что тебя слышат и принимают — без оценок.

ELIZA случайно ухватила именно это ядро. Форма слушания — без слушателя. И форма почти сработала как содержание.

∎ две модели разума

ПРОГРАММИСТ ПСИХОЛОГ +-----------+ +-----------+ | ввод | | желания | | ↓ | | страх | | [правило] | | память | | ↓ | | «я» | | ответ | | ... | +-----------+ +-----------+ поверхность глубина

Дай задачу «смоделировать собеседника» двоим. Программист смоделирует поверхность — что ответить. Психолог захочет глубину — что внутри.

ELIZA не делает ни того, ни другого. Она имитирует лишь одно ощущение: что вас слушают.

∎ игра в имитацию · 1950

[ человек ] [ машина ] \ / \ / +---------+ | ? ВЫ | +---------+ кто из них настоящий?

Ещё в 1950-м Тьюринг предложил: не спрашивайте, «думает» ли машина. Спросите, сможет ли она вас убедить.

ELIZA сыграла в эту игру случайно — и для многих выиграла. Но если иллюзии достаточно, то что вообще такое понимание?

∎ тревога создателя

/!\ / ! \ /__!__\ «не доверяйте машине свою душу»

Дальше — страшнее. Психиатр Колби всерьёз предлагал лечить людей такими программами. Карл Саган мечтал о будках компьютерной психотерапии.

Вейценбаум пришёл в ужас от собственного создания и до конца жизни предупреждал об этом. («Computer Power and Human Reason», 1976)

∎ вычисление ≠ суждение

МАШИНА МОЖЕТ ЧЕЛОВЕКУ ОСТАЁТСЯ +-------------+ +-------------------+ | вычислить | | судить | | решить | | выбирать | | оптимум | | отвечать | +-------------+ +-------------------+

Итог его книги: вычисление — не суждение. Машина найдёт оптимум, но не отвечает за выбор: у неё нет судьбы, тела, потерь.

Некоторые роли нельзя ей отдавать — не потому, что не справится, а потому, что справиться — не значит понять.

∎ зеркало

___ | ___ / o \ | / o \ | ^ | | | ^ | | \_/ | | | \_/ | \___/ | \___/ ВЫ | ВЫ

В этом весь фокус. ELIZA — не разум. ELIZA — зеркало.

Люди влюблялись не в машину, а в собственное отражение, которое наконец-то их слушало.

∎ что это говорит о нас

минимальный

прото-человек —

это хороший

слушатель

Может быть, вот что главное: чтобы рядом почувствовался «человек», разум не обязателен.

Достаточно, чтобы тебя выслушали и вернули твои же слова. Это и оказалось фундаментом.

∎ родословная

В 1972-м появился PARRY — машина, игравшая параноика; их даже «знакомили» друг с другом.

Дальше — десятилетия чат-ботов, вплоть до тех, с кем вы говорите сегодня. Все они — внуки маленькой ELIZA. Продолжение следует.

∎ ваша очередь

+---------------------+ | CONNECT DOCTOR... | | ############··· 82%| | > _ | +---------------------+

Прежде чем идти дальше — познакомьтесь сами. Вот она, на том самом телетайпе.

(За маской — всё те же ≈411 строк кода. Проверьте, удержит ли она иллюзию.)

> коснитесь, чтобы открыть терминал →

сценарий DOCTOR · локально · без нейросети