Как мыслит искусственный интеллект и почему ошибается

Не физическом.

Математическом.

У каждого понятия появляется своеобразный «адрес».

Слова с похожими значениями оказываются ближе.

Например:

радость;

счастье;

удовольствие;

восторг

будут находиться ближе друг к другу, чем:

радость;

трактор;

вулкан.

Но это не значит, что ИИ «чувствует» радость.

Он видит структуру отношений между словами.

Почему метафоры работают

Удивительно, но ИИ хорошо работает с метафорами.

Например:

«Время — это река».

Почему?

Потому что люди веками создавали такие связи:

время течет;

река движется;

жизнь имеет направление.

В огромном количестве текстов подобные сравнения повторяются.

Модель учится замечать эти закономерности.

Она может создавать новые метафоры, комбинируя уже известные языковые структуры.

Но где граница?

Возьмем фразу:

«Сердце города».

Человек понимает.

Это не настоящий орган.

Это центр, главная часть, место жизни.

ИИ тоже сможет объяснить эту метафору.

Но важно понять разницу.

Человек понимает ее через опыт тела:

сердце действительно существует;

оно связано с жизнью;

оно ощущается внутри нас.

ИИ работает через связи между выражениями.

Почему иногда ИИ создает удивительные идеи

Многие люди замечают:

«Я попросил ИИ придумать идею, и он предложил то, чего я сам не ожидал».

Почему это происходит?

Потому что человек часто думает привычными маршрутами.

У него есть:

личный опыт;

любимые темы;

профессиональные привычки;

устоявшиеся взгляды.

ИИ не имеет такой личной истории.

Он может соединять области, которые человек обычно не соединяет.

Например:

искусство + биология;

психология + архитектура;

история + технологии.

Это делает его полезным творческим партнером.

Опасность красивых связей

Но здесь есть важная ловушка.

Красивое соединение слов еще не означает истину.

ИИ может создать:

убедительную теорию;

красивое объяснение;

интересную гипотезу.

Но это может оказаться ошибочным.

Почему?

Потому что язык и реальность — не одно и то же.

Карта города не является самим городом.

Так же карта языка не является самим миром.

Главная идея главы

ИИ видит язык не так, как человек.

Человек видит:

слово опыт смысл

ИИ работает иначе:

слово связи вероятности новый текст

Именно поэтому он может создавать удивительные ответы, не имея человеческого понимания.

Он не путешествует по миру.

Он путешествует по огромной карте человеческого языка.

Но возникает следующий вопрос:

Если ИИ работает со связями между словами, то что именно хранится внутри него? Где находятся все эти знания?

Глава 8. Почему слова становятся математикой

Одна из самых загадочных особенностей искусственного интеллекта заключается в следующем:

Как могут обычные человеческие слова превратиться в числа и при этом сохранить смысл?

На первый взгляд это кажется невозможным.

Слово «любовь» — это чувство.

Слово «красота» — это идея.

Слово «свобода» — это философское понятие.

Как можно превратить такие сложные вещи в математические значения?

Чтобы понять это, нужно представить, что математика в ИИ — это не холодные цифры, а своеобразный язык отношений.

Числа тоже могут описывать мир

Когда мы слышим слово «число», мы часто думаем о простом счете:

1, 2, 3, 4.

Но математика гораздо шире.

Она может описывать:

расстояние;

форму;

движение;

вероятность;

связи между объектами.

Например, карта города тоже состоит из чисел.

Координаты показывают, где находится место.

Расстояния показывают, насколько объекты близки друг к другу.

Но сама карта не является городом.

Она лишь помогает описывать его структуру.

Так же ИИ использует числа не как «значения слов», а как способ описать отношения между понятиями.

Представьте библиотеку без алфавита

Допустим, существует огромная библиотека.

Но вместо названий книг на обложках стоят только числа.

Одна книга имеет номер:

Другая:

Сначала кажется, что это бессмысленно.

Но если рядом появляется информация:

какие книги часто читают вместе;

какие темы встречаются рядом;

какие идеи повторяются;

постепенно можно восстановить структуру библиотеки.

Можно понять:

какие книги похожи;

какие темы связаны;

какие направления существуют.

ИИ работает похожим образом.

Слова получают «координаты смысла»

Внутри модели слова и понятия представлены как математические объекты.

Можно представить их как точки в огромном многомерном пространстве.

Это не пространство, которое можно увидеть глазами.

В нем могут быть тысячи измерений.

Например, одна группа координат может отражать:

связь с эмоциями;

связь с действиями;

связь с предметами;

связь с определенными темами.

Важно понимать:

это не значит, что внутри ИИ существует маленький словарь с определением каждого слова.

Там нет карточки:

«Любовь — это сильное чувство привязанности».

Вместо этого существует сложная система связей.

Аналогия с художником

Представьте художника.

Он смотрит на картину великого мастера.

Он не записывает:

красный цвет = страсть;

синий цвет = спокойствие;

вертикальная линия = сила.

Но после многих лет практики у него формируется художественное мышление.

Он начинает чувствовать:

какие цвета сочетаются;

какая композиция работает;

какое настроение создается.

Его знание находится не в виде списка правил.

Оно стало частью его навыка.

У ИИ происходит нечто похожее, но в другой форме.

Почему слово связано с другими словами

Возьмем слово:

«океан»

Если человек слышит его, он может представить:

волны;

берег;

путешествие;

бесконечность.

Но почему именно такие ассоциации?

Потому что в человеческом опыте они уже связаны.

ИИ обнаруживает похожие связи через тексты.

Он видит, что:

«океан» часто появляется рядом с:

водой;

глубиной;

кораблями;

штормом;

горизонтом.

Так формируется математическая структура понятия.

Самое удивительное: отношения важнее самих слов

Для ИИ важно не только слово.

Важно место слова среди других слов.

Например:

Если изменить отношения между понятиями, меняется вся структура.

Можно провести аналогию с живописью.