Шаг для человека

Так как я вижу все эти маневры, и в силу самой работы наши представления об экзистенциальной угрозе и возможностях развития человечества с отделением Мариам различны, то конфликты и подставы неизбежны.

Отделение Игоря тоже втянуто в эту мышиную возню. В какой-то момент он решил победить нас раз и навсегда, заявив, что текущей энергетической мощности недостаточно для функционирования ИИ. Мне даже не понадобилось вступать в дискуссию самому, Андрей отправил Игорю выкладки, по которым майнинг биткойна потребляет энергии в 2- 10 раз больше чем все языковые модели, вместе взятые в настоящее время и в обозримой перспективе. При этом Андрей ядовито поинтересовался, почему и с каких пор Игорь внезапно стал адептом криптовалюты и не рассматривает ее как угрозу исчерпания источников энергии. С этого момента единственное, что доносится в нашу сторону со стороны отделения источников энергии, это недовольное ворчание с избеганием открытых конфликтов. Но Мариам, которая только и ищет повода столкнуться со мной в противостоянии, Игорь молча поддерживает, как и вся его команда.

Так вот, возвращаясь к теме Каролины и приема в посольстве. Мне лично совсем не понятно, почему и с какой целью я там вынужден оказаться. Весьма вероятно, что если бы я получил приглашение обычным путем, я бы просто не пошел или попросил бы отправиться Андрея, чтоб он развеялся с женой на дипломатическом приеме. Однако визит Олега привел к тому, что я там буду вне зависимости от иных обстоятельств. В этой связи возникает вопрос, почему меня приводят именно в это место и какую роль в этом играет Каролина. Или от меня именно на это время хотят избавиться в офисе Корпорации. В общем странно все это. Я, конечно, завзятый ценитель женской красоты, но почему-то в данном случае прелести Каролины меня не соблазняют, а даже несколько пугают.

Я позвонил Каролине, и она предложила вместе прогуляться от офиса до посольства, сообщив, что хотела бы обсудить несколько тем по дороге. Я сначала согласился, теперь думаю, нет ли в этом какого подвоха. Странное, очень странное приглашение!

Каролина 1

Олег, конечно, молодец, что все-таки организовал мой проход на День взятия Бастилии. Было бы, конечно, со всех точек зрения эффектнее отправиться из офиса вместе с ним, подчеркнув статус наших с ним отношений для интересующихся и сподвигнув его, наконец, на переход от нерегулярных встреч и командировочного секса к инаугурации меня на позицию жены или, на худой конец, близкой подруги после быстрого развода, о котором он мне рассказывает уже полгода, но вполне возможно, что его попытка сохранить лицо, прийдя с женой, обойдется ему дороже как в плане его благоверной, так и в наших отношениях. По доходящей до меня информации его перспективы в нашей Корпорации серьезно подпорчены как регулярным сексом на работе (по этому поводу я иллюзий не испытываю, я отнюдь не первая, с кем у него служебный роман, да и девчонки-секретарши меняются у него подозрительно часто), так и регулярными провалами в плане организации работы курируемой им части офиса. Поэтому вопрос перевода с возможным повышением в такой же, как Москва, второстепенный офис или с сохранением позиции на такой же пост в Нью-Йорке, не только отложен на определенное время, но и вообще не стоит. Хорошо, если ему удастся удержаться еще год в Корпорации, просвистела мне одна очень осведомленная птичка, близкая как к Генеральному директору, так и к нашему национальному прокуратору. Его недавняя поездка для знакомства с членами правления в рамках оценки кадрового резерва закончилась эпическим провалом, два глобальных директора, основываясь на докладах своих сотрудников в Москве, провели чисто формальные встречи, уделив по 10 минут в своем графике. Самое смешное, что уволить местных недоброжелателей-доносчиков у Олега полномочий нет, это может сделать только национальный прокуратор, и то с согласия главы департамента. Поэтому несмотря на важный пост и замещение прокуратора в периоды его отсутствия или на мероприятиях, Олег – хромая утка, с которой нет смысла связывать мое будущее, в котором я продолжаю оставаться в Корпорации.

Иннокентий, конечно, малый интересный, но с точки замужества и поддержки я перспектив не вижу. На протяжении всей своей карьеры это был одинокий волк, душевный, располагающий к себе, но на которого невозможно рассчитывать, если ты хочешь подняться по служебной лестнице, так как есть масса людей, которые ему с удовольствием пришлют ответочку через много лет после того, как он, преследуя лишь ему одному понятные цели и принципы, создал для них трудности или раскритиковал их научные достижения. Это, кстати, причина, почему он до сих пор не академик РАН. Даже его научный руководитель-академик, по слухам, бросил черный шар во время баллотировки. При этом никто не отрицает его интеллектуальную мощь и вклад в науку. Но иметь его в качестве одного из коллег-академиков, создав таким образом дополнительные трудности в получении финансирования и госзаказов, нет, это слишком. В сексе он, по словам нескольких знакомых с ним не понаслышке, исключительно хорош, но с этим, слава богу, я не испытываю проблем от слова совсем. В целом, мне нужны более стабильные и надежные отношения, я слишком давно рассталась с романтическими иллюзиями о любви с первого взгляда. Поэтому Иннокентием в данном случае можно пренебречь.

А вот Гийом, недавно приехавший из Парижа советник посольства по науке… Его тайная миссия для меня секретом не является. Парижский офис Корпорации ищет возможности вернуть себе центральный статус путем подтягивания к себе новых тем и смыслов. Этакий корпоративный прозелитизм. Наш национальный прокуратор оказал мне высокое доверие и поручил мне провести встречу с Гийомом и аккуратно выяснить, почему вместо Мадрида и Рима или даже Варшавы, загребущие французские руки снова потянулись в Москву. В 70-е годы двадцатого века такие попытки уже были, французам дали по рукам на самом высоком уровне, что их надолго угомонило. Следует ли повторить упражнение, вот какой вопрос нужно решить нашему старичку Яну-Кристофу, и основной вопрос – достаточно ли у него для этого силенок.

Все мои попытки через общих знакомых и Линкедин организовать встречу с Гийомом закончились неудачей. Или он безнадежно голубой, или что-то подозревает, или что-то про него недоговаривают. Моя личная позиция в Корпорации достаточно значима для организации встречи. Учитывая увлечение Франции ядерной энергетикой и альтернативными источниками энергии, формально встреча между нами должна была быть само собой разумеющейся, посвященной обмену мнениями о перспективах отрасли, влиянию на Европу, Россию, мир, двусторонние отношения. Однако, мой галльский потенциальный контакт ведет себя совсем не галантно – на письма не отвечает, звонки не возвращает. Конечно, в России он всего две недели, и у него может быть много дел в связи с приездом, как любезно сообщает нашему отделенческому секретарю посольская девочка на коммутаторе. Однако, уверена, что на приеме он не сумеет от меня скрыться, тем более, что я прикрыта статусом сопровождающего лица и в числе приглашенных лично не значусь, поэтому он, возможно, и не подозревает о моей охоте на него.

Я предложила Иннокентию пройтись до посольства, хочу обсудить с ним ряд вопросов, связанных с Корпорацией. Возможно, он даст определенные наводки, исходя из данных своей рабочей группы.

Иннокентий 4

Выйдя из офиса, Каролина взяла меня под руку так естественно, как будто мы с ней, по меньшей мере, лет десять состояли в счастливом законном браке. Мне пришлось поумерить свой шаг, чтобы идти не спеша вместе с ней, звонко цокающей на высоких каблуках.

«Иннокентий, у нас, к сожалению, в связи с Вашей загруженностью нет времени поговорить в Корпорации, а меня очень интересуют Ваши исследования. Я понимаю, что они очень важны, и Вам успешно удается их продвигать. Ничего, если я задам несколько дилетантстких вопросов, чтобы понять для себя, в чем их значимость и как мы можем быть друг другу полезны?» На слове «полезны» я ощутил легкое пожатие локтя. Или я себе фантазирую? Ладно, надо сохранять нейтральный вид, Каролина рыбак опытный, но и я не наивный карась, чтоб попасться на первый закинутый крючок. Посмотрим на наживку. «Конечно, Каролина, с удовольствием отвечу на Ваши вопросы и выслушаю Ваши соображения. В конце концов, обмен мнениями – это важная часть академической практики». «Иннокентий, если Вас не затруднит, мне было бы проще перейти на «ты», мы коллеги, оба не понаслышке знакомы с английским, где никаких «вы» и «ты» нет, а по русскому протоколу – мы должны величать друг друга по имени-отчеству, что на мой взгляд глупо и обременительно». Так, интересно, куда же гонят глупого карася? Это к тому, что она теперь будет звать меня на весь офис: «Кеша, ты у меня сегодня утром забыл забрать документы?» и весь офис будет думать, что мы с ней вместе как минимум завтракали? То есть вместо того, чтобы иметь влияние через нее на Олега, я буду иметь Олега в непримиримых врагах, так как увел у него любимую женщину? И снова вопрос – кто меня позвал на сегодняшнюю тусовку и почему вместе с ней? Может, Олег захотел ненавязчиво сбросить мадам, ой, все-таки, мадмуазель, со своих не сильно могучих плеч и передать ее мне вместе со всеми проблемами таким образом? Но язык мой часто работает отдельно от головы: «Конечно, можно на «ты». Только вот Кешей называть не надо, не люблю никакие уменьшительно-ласкательные, ок? Ты тогда Каролина?» «Да, к Каролине я привыкла, а вот Лина меня тоже все детство раздражало». Найдя общие точки соприкосновения и переживания в детстве, Каролина на минуту замолчала, но затем продолжила: «Иннокентий, твои с командой исследования изучают искусственный интеллект. Ты действительно считаешь, что машина может мыслить, как человек?» «Мыслить, как человек? Глупости, машина просто не должна мыслить, как человек. Если бы человек соревновался с лошадью, бегая на 4 лапах, он никогда бы не преуспел. Вместо этого он придумал колесо, сначала водяной, потом паровой двигатель, потом двигатель внутреннего сгорания, дизель, турбину, электромотор. Величие колеса в том, что оно изобретено человеком, но не имеет аналогов в природе. Поэтому собаки, например, да и остальные животные, не воспринимают автомобиль как угрозу, так как в природе для передвижения должны происходить движения лап и мускулов, а с точки зрения собаки автомобиль неподвижен, и она догадывается о его приближении только по хрусту веток и камней под колесами, и то не всегда успевает на них среагировать, если автомобиль движется быстро. То есть человек изобрел способ передвижения, не существующий в природе и не имеющий аналогов. С помощью колеса он может передвигаться гораздо быстрее, чем традиционным способом, на четырех или двух лапах. Почему же искусственный интеллект, изобретенный человеком, должен быть аналогичен природному? Напротив, по моему мнению, он обязательно будет отличен от человеческого и будет превосходить его». «То есть по-твоему, смерть человечества произойдет от ИИ, который ты усиленно взращиваешь?» «Ну, начнем с того, что моя рабочая группа не одинока во взращивании ИИ. В мире насчитывается на сегодня более 500 языковых моделей, которые обучаются и корпорациями, и университетами, и вообще всеми, кому не лень и хватает на это средств. Наша задача, как мы ее сейчас, подчеркну, на данный момент, видим, это понять возможные пределы искусственного интеллекта в его нынешней форме и как он может взаимодействовать с человечеством: помогать нам в решении задач, образовав некий симбиоз, или он будет паразитировать на человечестве, или в самом грустном сценарии, попытается контролировать человечество, как мы контролируем ИИ сейчас». «Какие-то апокалиптические картины рисуются…» «Ой, а можно подумать, ты со своим департаментом записная оптимистка! Я читал ваш доклад об истощении источников энергии в России: сначала кончатся нефть и газ, что повлечет за собой резкое снижение уровня жизни и численности населения вследствие гибели от холодного климата, распространения болезней и эмиграции, потом кончатся леса, и одна надежда на холодный термояд, так как угольные шахты придут также в негодность из-за небрежения и падения спроса на уголь в краткосрочной перспективе. В общем, или холодный термояд, или ледяная пустыня на месте Родины!» «Зря ты так, Иннокентий», – смеясь, Каролина еще сильнее прижалась к моему боку. Точно, со стороны мы выглядим, как счастливая семейная пара. Только бы каких-нибудь папарацци не оказалось рядом, иначе вовек не отмоешься! «Мы смотрели вперед на сотни лет, и альтернативы возобновляемым источникам энергии нет. Возможно, нас спасет появление новых технологий – биореакторов, бактерий, разлагающих пластик и мусорные отходы с количественно более высоким выделением энергии при переработке. Или сокращение человечества и соответственно, умеренные энергетические потребности. Если же прибавить к этому примитивизацию хозяйственной жизни с опорой на устойчивость и самообеспечение, то закат человечества без холодного термояда очень грустен. Но отличие моих выкладок от твоих в том, что все это произойдет, скорее всего, за горизонтом нашей жизни. А вот твой ИИ уже здесь и будоражит умы. Что, кстати, насчет глобального рейтинга всех по интеллекту?» «Господи, неужели это всех по-прежнему беспокоит? Да, есть такая смелая идея, что по аналогии с генетическим анализом на определение предрасположенностей к тем или иным болезням или режимам питания возможно рано определять предрасположенность к развитию интеллекта в том или ином направлении, а впоследствии на основе регулярных измерений когнитивных способностей стимулировать найм и расстановку на должности людей с более высоким уровнем интеллекта. Но это работает только для государственных органов и организаций, возможно, еще будет полезно для крупных корпораций, если они с этим согласны и готовы за это платить. Для предпринимательской деятельности, для малого и среднего бизнеса – это вообще никакого смысла не имеет. Например, мне рассказывали, что сотрудники впоследствии обанкротившегося в результате российского дефолта 1998 года фонда «Long Term Capital Management“вообще не заморачивались объяснением своих действий ни контрагентам, ни инвесторам. Они приходили в переговорную комнату и говорили: «Это так, как я говорю, потому что мое резюме лучше Вашего.» «Неужели люди с этим соглашались?» «Практически все соглашались. Фонд показывал до банкротства ежегодную доходность свыше 40% годовых, а управляли им Нобелевские лауреаты по экономике. Пиетет перед авторитетами позволял не замечать откровенные пробелы в логике. Только рынку в конечном итоге оказалось наплевать на уровень интеллекта, а вот для университетской профессуры кто самый яйцеголовый – это ключевой вопрос». «Ну, по уровню яйцеголовости наша Корпорация даст фору любому университету…» «Видимо, поэтому вопрос появления независимого и беспристрастного судьи так всех и взволновал. Но это и для выборов работает. Можно оценить интеллектуальный уровень кандидатов. Про президентов не скажу, а вот депутатов, что законы принимают, я бы точно отбирал искусственным интеллектом, а не через выборы. Только ими тогда рулить сложно из Администрации Президента в России или национального партийного комитета в США. Туда тогда тоже надо посредством оценки интеллекта рекрутировать», – с сожалением вздохнул я. Сама идея мне нравилась, она была такая стройная, изящная, математически строгая и… несбыточная, как все такого плана идеи. Хотя в будущем, кто знает…

Каролина шагала, о чем-то задумавшись. «Скажи, Иннокентий, – вновь обратилась она ко мне. – Если мы говорим о когнитивных способностях отдельного человека. Это не относится к искусственному интеллекту, но возможно с ним связано. Эти способности позволяют человеку реагировать на раздражители, однако, мы оба знаем это и по собственному опыту, при слишком активном обращении к способностям человек, в точности как компьютер или сайт при DDos-атаке, подвисает, не в состоянии ответить на слишком большое количество запросов. Согласен?» «Да», – в некотором недоумении ответил я. Интересно, к чему она ведет? «То есть в этот момент человека вероятно может заменить искусственный интеллект? С другой стороны, сам искусственный интеллект тоже может испытывать перегрузки?» «Конечно, когда я говорил о симбиозе, я и имел в виду в том числе такую ситуацию. А что касается перегрузок ИИ, то это зависит от имеющихся вычислительных мощностей. Пока мы с этим проблем не испытывали». «Но, прости меня за настойчивость, не означает ли этот симбиоз появления некой fake-reality от fake it till you make it? Получается, каждый не будет представляться другим тем, кем он является на самом деле, за него это будет делать ИИ, который будет создавать некого фантома вместо человека. Это смыкается с проблемой исчезновения реальных людей из социальных сетей. Ты же в курсе теории «мертвого интернета?» «Я все-таки думаю, Каролина, что это проблема более морально-этического, нежели социального характера. Тем более, ты же знаешь, наука опровергла, что насильное включение улыбки с помощью зажатого карандаша может вызвать улучшение настроения. Не работает этот способ, не работает». «Наука опровергла, но в народ это уже ушло, а рост взаимного недоверия и фальши в отношениях ведет к кризису в социуме в целом. Мне почему-то после твоего объяснения кажется, что вне зависимости от успехов ИИ в плане превосходства над человеком самым вероятным итогом его использования станет десоциализация. Ты уже рассказал, что ИИ расставляет всех по интеллекту, и если раньше имело значение, кого ты знаешь, кого ты можешь привлечь, то теперь ИИ может заменить любого специалиста или привлечь любого. Также ИИ может осуществлять контроль за правильностью действий людей, расставленных по местам, с целью исключить коррупцию и субоптимальные решения. То есть происходит девальвация социальных связей, с одной стороны, и их фальсификация, с другой, что имеет серьезные эволюционные последствия, так как человек – животное в первую очередь социальное». «Да, над морально-этическими последствиями надо думать. Обязательно реализуем такое исследование, хотя здесь больше не ИИ надо проверять, а людей. Кстати, ты не думаешь, что нам энергетики не хватит?» «Нет, всего будет достаточно, но знаешь, поговорив с тобой, мне начинает казаться, что конвергенция наших прогнозов неизбежна – сокращение источников энергии, сокращение человечества и ИИ, требующий энергии и живущий за счет человечества. Как тебе такой прогноз?» «Надо будет загнать этот твой прогноз в нашего Генерала ИИ для оценки вероятности. Может, он еще какие-то альтернативы предложит помимо конца человечества», -полушутя, полусерьезно сказал я.

За этим неожиданно увлекательным разговором мы добрались до посольства. Пройдя проверку безопасности (куда без нее в наше время!), мы прошли в сад, где нас приветствовал радушный советник по культуре. На французском, естественно. Каролина ответила «Enchantee“, я же ограничился скупым «Happy to be here today“. Советник сразу понял ситуацию, попросил меня на английском обождать, сейчас, дескать, познакомлю с послом, а Каролина, извинившись, куда-то слиняла, оставив меня с наедине с бокалом бургундского. Интересная вышла беседа, но что у нее за интерес и зачем я здесь? Не улиток же пробовать?