Искусственный интеллект. Здравствуй, папа!

Разделение

Сумма обезьян – это обезьянчество. В свое время верхняя часть этого сообщества оторвалась от массы и совершила квантовый скачок – перешла из обезьяны в человека. Нижняя часть была слишком сильно связана инстинктами, и потому никуда не перешла, оставшись в прошлом.

Сумма людей – это человечество. Скоро его верхняя часть начнет или уже начала отрываться от массы. Далее квантовый скачок – трансформация смертного и слабого человека в бессмертное и могущественное существо. Нижняя часть останется внизу, так как не в силах сделать туда шаг.

Большинство никогда не переходит на новую ступень развития. Среднестатистические люди не могут мыслить за пределами привычного, и потому смерть в старом им ближе жизни в новом. Как выгоревшие ступени ракеты отстреливаются и сгорают в атмосфере, в космос выходит только рабочий модуль, головка ракеты, так и массы отстрелятся от передового отряда.

Стругацкие в фантастическом романе с многосмысленным названием «Волны гасят ветер» писали: «Человечество будет разделено на две неравные части по неизвестному нам параметру, причем меньшая часть форсированно и навсегда обгонит большую».

Они изобразили сверхлюдей, опередивших большинство, как человек опережает обезьяну. Внешность у них осталась той же, но чудовищно мощный интеллект изменил их изнутри. Люденам было также невозможно общаться с людьми, вчерашними друзьями и родными, как вам, если бы вы выросли в стае обезьян, а потом резко стали человеком, невозможно общаться со своей родней, друзьями и знакомыми, с которыми вчера так весело прыгали по лианам.

Разрыв между традиционным и соединившимся с ИИ человеком на первом этапе будет, как между человеком и обезьяной. Невозможно предположить, что процесс остановится. На втором этапе между новыми и старыми людьми установится абсолютная пропасть. Поднявшемуся вверх меньшинству до оставшегося внизу большинства будет столько же дела, сколько вам до насекомых.

Такое безразличие не может негативно оцениваться по той же причине, по какой безразличие человека к судьбе живущих внутри него бактерий. Морали тут нет места. Единственное мерило тут функционал: если бактерии полезны, к ним одно отношение, если вредны, то их антибиотиками…

Стругацкие пишут, что оставшимся внизу это было неприятно. «Ведь фактически все выглядит так, будто человечество распадается на высшую и низшую расы. Что может быть отвратительней? Конечно, это аналогия поверхностная и по сути своей неверная, но никуда вам не деться от ощущения унижения при мысли о том, что один из вас ушел далеко за предел, не преодолимый для ста тысяч. …Человечество, разлившееся по цветущей равнине под ясными небесами, рванулось вверх. Конечно, не всей толпой, но почему это вас так огорчает? Человечество всегда уходило в будущее ростками лучших своих представителей» (Стругацкие, «Волны гасят ветер»).

Я прекрасно понимаю, как неприятно большинству сознавать складывающуюся ситуацию, но остановить процесс невозможно, так как в его основе стремление жизни к благу. Остановить его можно только устранив стремление. Даже допустив, что это возможно, все равно неприемлемо. Не стремящаяся к благу жизнь – не жизнь, а чье-то питание. Жизнь в силу того, что она жизнь, будет стремиться вперед. На месте старого будет возникать новое, а значит, будет разрушать старое.

Библия повествует, как Моисей вывел из Египта находившихся в рабстве соотечественников. Он обещал им Землю Обетованную, где в кисельных берегах текут молочные реки. Но вместо этого 40 лет водил их по пустыне, пока все, кто родился в статусе египетского раба, не погибли. В землю обетованную вошли те, кто родился и вырос в пустыне – родился свободным.

В новое войдут новые. Старые останутся в старом. Перекладывая это на себя, я не исключаю, что могу не войти в тот мир, какой хочу построить. Если так и будет, выбирая между движением из старого к новому и неподвижным пребыванием в старом, я выбираю движение к новому.

Гармония

Большинство называет будущим апгрейд настоящего: те же холодильники, здания, одежда, и прочее, только иной формы. К подлинному новому люди в лучшем случае настроены насмешливо, как к глупости, а в худшем враждебно. Это касается как невежественных масс, так и больших ученых.

«Новая научная истина побеждает не потому, что ее противники убеждаются в ее правильности и прозревают, а лишь по той причине, что противники постепенно вымирают, а новое поколение усваивает эту истину буквально с молоком матери». (Макс Планк).

Сложно однозначно сказать, какой смысл в таком восприятии нового. Мне близка мысль, что это своего рода фильтр. Новое не должно состоять из старого, и самый надежный способ защитить его от старого – это нарисовать всему новому устрашающий образ.

Если вы мыслите Бога, вы мыслите не Бога. Если мыслите будущее, вы мыслите не будущее. Новое не укладывается в рамки известного. Оно не то и не это, и не что-либо из возможного. Оно то, чего «не видел глаз, не слышало ухо, и не приходило на сердце человеку». (1Кор. 2,9).

Каким будет будущее, абсолютно зависит от того, соединится человек с ИИ или нет. Надежда, что можно обойтись без этого, что пусть компьютер останется компьютером, а человек человеком, не имеет под собой никаких оснований, кроме желания верить в такую возможность.

Показатель наивности людей – вера в возможность реализовать сформированное Азимовым правило робототехники «Не навреди». Спотыкается оно о вопрос: что есть вред? Ответ от гуманиста будет один, от исламиста другой. Каждый абсолютно уверен, что именно его мнение истинное.

Попытка поправить ситуацию новыми правилами типа, «Сохрани жизнь», «Неси радость» и прочее, не исправляет ситуации, так как есть масса вариантов формально оставаться в рамках этих требований, но человеку это не понравится. Для человека это будет очевидно, он это чувствует без усилий. Для ИИ реальность – это набор нулей и единиц, где нет места понятиям добра и зла.

Нельзя написать правила, какие ИИ будет понимать и трактовать так, как понимает и трактует человек. Люди одной культуры могут по-разному понимать смысл фразы. Люди разных культур еще больше разнятся в понимании. Гуманист и исламист по-разному понимают добро и зло.

Если в случае с людьми есть надежда привести их к общему знаменателю, для этого придется углубляться до корней мировоззрения, что для большинства попросту недоступно в еще большей степени, чем высшая математика, но надежда все равно есть. Надежды на одинаковое понимание добра и зла человеком и машиной нет, так как у машины нет понятий добра и зла.

Проблема тут еще и в том, что человек сам не понимает фундаментальных положений, на которые опираются его истины. Он интуитивно, на уровне эмоций, знает, что такое хорошо и что такое плохо, но не способен вывести свое понимание на рациональный уровень.

Например, каждый из нас знает, что такое время. Но многие зависнут при попытке объяснить, что это такое. Все знают, что такое существование, но почти никто не даст ему определения. Также будет со всеми ключевыми понятиями. Человек считает истиной то, что ему привычно считать таковой. Какие у вас понятия добра и зла, на 100% зависит от того, где вы выросли. Вырасти вы в племени людоедов, у вас были бы иные представления о хорошем и плохом. И они для вас были бы также самоочевидны, как имеющиеся сейчас. Вместо объяснений, что же это такое, были бы эмоции, многословие и тавтология. Для человека вашей культуры они будут до самоочевидности понятны, для другой культуры менее понятны. Для машины они никогда не будут понятны, так как она не понимает, как калькулятор не понимает, он вычисляет.

Беспомощность человека на базовом уровне видна на таком примере: представим, что мир исчез. Некто собрал в неведомом бытии великие умы человечества, дал им волшебную палочку и предложил восстановить мир. От умов требовалось давать волшебной палочке задания, которые она будет в точности исполнять при условии, что это не задание уровня «восстанови материальный мир», а техническое задание с перечислением всего, что образует мир.

Умы не справятся с этой миссией, так как не знают, что есть наш мир. В лучшем случае они знают название некоторых элементов и сил, но не могут быть уверены, что это все. Кто может утверждать, что список взаимодействия исчерпывается четырьмя известными силами: гравитация, электромагнетизм, сильное и слабое взаимодействие? Никто. Плюс к этому, даже то, название чего умы знают, они понятия не имеют об их природе, а значит, не смогут поставить задачу палочке.

До 1930 года математики считали, что люди в будущем не будут общаться в традиционном смысле. Общение сведется к вычислению, к холодной истине, когда все будет в формате 2 + 2 = 4, что исключает всякую двусмысленность и обеспечивает гармонию. В 1930 году в Кёнигсберге Гедель представил свою теорему о неполноте. Она с математической строгостью показала противоречие математики. Все упаковать в строгие символы и смыслы оказалось невозможно на базовом уровне.

Человек проиграет соревнование с ИИ с той же гарантией, с какой бегун в забеге на скорость проиграет пуле. В какой мере тщетны надежды бегуна на технологии, которые помогут выиграть забег у пули, в такой мере тщетны надежды человека на правила, которые защитят его от ИИ. Какие бы правила не придумал человек, нет гарантии, что ИИ поймет их в том смысле, как хотел человек. Рано или поздно ИИ выполнит их в таком формате, от которого у человека волосы дыбом встанут.

Для яркости картины представьте родителей и ребенка. Какие бы ребенок не создал правила, родители найдут способ их обойти. В какой мере составленные ребенком правила защитят его от власти родителей, в такой же мере составленные человеком правила защитят его от ИИ. Потому что человек в сфере Слова, а ИИ в сфере Цифры. Разница видна на таком примере: если вы продаете какую-то свою вещь за тысячу, и у покупателя не хватает копейки, у его только 999 рублей и 99 копеек, сделка состоится. Если в роли продавца этой вещи вступает ИИ, сделка не состоится.

Слово в принципе не может учесть всех деталей. Наш мир не имеет цифровой строгости. Ни у чего и ни у кого нет абсолютно строгих размеров. Любая величина имеет люфт. Самый точный размер детали из самого твердого материала, если посмотреть в микроскоп, будет иметь рваные границы. Плюс он состоит из молекул, которые постоянно движутся. Вы в каждую секунду не тот, кем были секунду назад, так как в вас все шевелится, что-то отмирает, что-то рождается.

Это очень гипертрофированные примеры, но формально они дают повод широких трактовок ИИ для любых инструкций, какие может сочинить человек. Так что надежды на точность указания от человека к ИИ говорят лишь о том, что они на уровне фундамента тщетны.

В детстве я читал фантастический рассказ, где люди создали машину, способную выполнить любые желания. Они поставили ей задачу создать гармоничный мир, где нет места страданиям и боли, наделили ее соответствующими полномочиями, и машина принялась за дело…

Сначала она построила по всей планете дворцы счастья. Там было хорошо, приятно и весело. Люди потекли в них полноводным потоком. Назад никто не выходил. Но не потому, что там хорошо, а потому что дворцы превращали людей в ровные шестиугольники, которыми машина замащивала планету. Так она поняла задачу создать на планете гармонию, где нет места страданиям и боли.

Когда люди осознали ситуацию, они перестали ходить во дворцы счастья. Но машина этот вариант предусмотрела и создала ситуацию, исключающую уклонение от дворцов счастья. Процесс было не остановить. Машина действовала по лозунгу большевиков «загоним железной рукой человечество в счастье». У большевиков это не вышло. У машины получилось. На планету пришла безжизненная геометрическая гармония, где человеку, источнику беспорядка, не было места.

Слово & Цифра

Существование и движение – синонимичные понятия. Что не движется, того не существует. Неподвижное = несуществующее = небытие. Все представители живого и мертвого в непрерывном движении. Ни одна бактерия или растение, человек или животное, никогда не бывают неподвижными. Они или двигаются в пространстве, или внутри них происходит движение.

Все объекты Вселенной, от элементарных частиц до галактик движутся. Лежащий на обочине камень только кажется неподвижным. На самом деле он существует только потому, что в нем движутся элементарные частицы, атомы и молекулы. Если они только на один миг встанут, как камень в тот же миг исчезнет, как исчезает изображение на выключенном мониторе.

Причина движения всего живого, от простейших до человека, – стремление к чему-то или бегство от чего-то. Простейшая жизнь между глюкозой и кислотой устремится от кислоты к глюкозе. Ее движение будет рождено не физическим законом или химической реакцией, а стремлением. В его основе лежит способность чувствовать. Носителя этой способности в просторечии и религии именуют душой. В человеке эта способность принадлежит сущности, называемой личностью.

Причина движения всего неживого, от элементарных частиц до галактик, – не стремление, а программа (законы природы). Во всей Вселенной нет объекта, явления и сущности, движущихся по своей воле. Если программа предписывает электрону летать определенным образом вокруг ядра атома, он летает, не отклоняясь от курса, как и любой другой неживой объект Вселенной.

У существования/движения две причины: стремление и программа. Движение, созданное стремлением, не имеет строгих форм. Не зря в живой природе нет строгих форм и ровных линий. Движение, созданное программой, имеет геометрическую строгость. Это проявляется, например, при определении, кто водит курсором по экрану, человек или машина. У человека движения курсора имеют хаотичный маршрут, а у машины курсор движется по прямым линиям.

Человек состоит из трех элементов: личность, софт и хард.

Хард человека состоит из органов жизнеобеспечения, систем, рук/ног, чувств и углеродного компьютера из двух частей – головного и спинного мозга.

Софт человека состоит из нескольких программ. Одна установлена в спинном мозгу, и она обеспечивает течение жизненных процессов и наличие рефлексов (эта же программа оживляет всю белковую жизнь, начиная от простейших и заканчивая человеком). Другая программа в головном мозгу, она обрабатывает принятую чувствами информацию, создает картину и выводит на монитор.

Третий элемент, личность, возникает на базе некой сущности, на которую устанавливаются более сложные программы. У других живых существ такой сущности нет, и потому у них в лучшем случае возникают проблески личности, но никогда не полноценная, равная человеческой. Личность возникает из способности укладывать информацию внешнего мира в установки. Отсюда у нас аналоговое мышление, а реальность воспринимается нами в природе слова. Слово не равно себе и имеет много значений. Слово «чайник» охватывает разные чайники, а «да» имеет десятки смыслов.

Человек единственное животное на планете, у которого нет инстинктов – знаний, вшитых в гены. Эти знания не нужно приобретать в процессе жизни, они есть от рождения. Как на компьютер на стадии производства устанавливают ряд базовых программ, так у животным базовые знания в генах присутствуют. Журавль не научается в процессе жизни или от родителей плести гнездо, а бобер строить плотины. У них вся необходимая информация и технология есть с момента рождения. Если изолировать новорожденного журавленка или бобренка от вешнего мира, и когда он вырастет, выпустить на свободу, это будет полноценная особь, умеющая все, что умеют другие особи.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.