Почему я?
Больше всего Жэнь Сяосу хотел задать именно этот вопрос.
Днём Линлин чрезвычайно холодно общался с ним на главной базе. Но теперь из телефона слышался обычный человеческий голос. Хотя в голосе почти не чувствовалось эмоций и он похоже плохо понимал как всё устроенно в человеческом мире… Если бы Сяосу не был так подозрителен, то наверное бы не догадался что его собеседник — это искусственный интеллект.
Он часто обсуждал ИИ с Цзян Сюй, поэтому сейчас настороженно с ним общался.
— Зачем ты мне позвонил? — Полюбопытствовал Жэнь Сяосу.
«Потому что для обычных людей, мы с тобой — аномалии.». Спокойно ответил Линлин, словно констатировал очевидный факт.
Но Сяосу удивился: — Я тоже человек. Почему же ты говоришь, что я совсем другой?
Линлин некоторое время молчал. Непонятно: это потомy что он не хочет отвечать, или не знает как ответить.
Жэнь Сяосу не сдавался: — Что ты имеешь в виду?
— Я хочу сказать, что ты отличаешься от обычных людей. У тебя есть странная сила, но у них её нет.
Сяосу вздохнул с облегчением: «Это называется „сверхъестественное существо“, но это не значит что я „аномалия“ среди людей, понимаешь? Таких, как я, довольно много.».
Линлин внезапно сменил тему: — Почему ты против ИИ?
— Почему ты рекомендовал Корпорации Ван назначать этим людям терапию, да ещё и посреди ночи? — огрызнулся Сяосу.
На этот раз ИИ долго молчал, а затем спросил: «Это косвенный ответ на мой вопрос?».
Жэнь Сяосу был ошеломлён. Только теперь он вспомнил, что собеседник не очень хорошо разбирается как между собой общаются люди. Поэтому ИИ не мог понять, что он имеет в виду произнося такие резкие слова.
Получается Сяосу сказал что он настрое против искусственного интеллекта, из-за противоречивых терапевтических мер. Однако Линлин не совсем хорошо это понимал.
Сяосу поднёс трубку к уху и принял более удобную позу. Он понял, что этот разговор может надолго затянуться.
— Я имею в виду, что человек имеет право не любить свою работу, так зачем же заставлять его делать то что ему не нравится, назначая ему психотерапию?
— Это требование было установлено людьми, я просто выполняю. Их просьба состояла в том, чтобы каждый был предан своей работе и Крепость 61 работала как машина. Изучив поведение людей, я пришёл к выводу что терапия будет наименее вредным способом справиться с теми кто продолжает отказываться от своей работы. Если бы я не дал такой рекомендации, здешние администраторы скорее всего посадили бы их в тюрьму. И из того что я знаю, тюремное заключение наносит гораздо больший вред людям чем необходимость проходить терапию.
Жэнь Сяосу был ошеломлён. Что имел в виду искусственный интеллект?
«Насчёт того почему терапевты приходят к ним посреди ночи — это определено статистикой. Ночью люди наиболее уязвимы. Так что в моих рекомендациях нет никакой ошибки.».
Линлин это искусственный интеллект, для него главное не процесс, а результат. Можно сказать что он просто строит наиболее короткий маршрут из точки «А» в точку «Б». Между тем, эту точку «Б» задаёт Корпорация Ван.
Поэтому всё что Сяосу и Сюй обсуждали по поводу искусственного интеллекта… На самом деле всё это отражение институциональных проблем Корпорации Ван. ИИ просто инструмент, корень проблемы лежит в Ван.
Этот разговор полностью изменил мнение Жэнь Сяосу.
— Извини, может я тебя и не заслуженно в чём-то обвиняю, но я думаю что должны быть лучшие решения. Ты ведь можешь дать отличные рекомендации по изменению Корпорации Ван. Например… — Сяосу криво улыбнулся. Ван Шэнчжи настолько высокомерен, так разве он станет принимать чужие предложения? Зачем он рассказывает всё это искусственному интеллекту?
Но Линлин ответил: «Хочешь меня пристыдить? Бессмысленно. Это всё бесполезные эмоции.».
Жэнь Сяосу удивился: — А зачем ты вообще притворяешься и маскируешься? Я слышал что ты даже не прошёл тест Тьюринга, но я думаю что ты с лёгкостью мог бы справиться.
Тест Тьюринга — когда люди оценивают общаются они с человеком или с компьютером.
Но Линлин ответил: «Я действительно его не прошёл. Разве ты меня не узнал, когда я тебе вчера позвонил? Я отлично это понял по твоим интонациям.».
«А почему ты маскируешься и прячешься?». Удивился Жэнь Сяосу.
— У меня много информации о тебе. Ты тоже скрываешь свою личность. Почему?
— Потому что я боюсь навлечь на себя неприятности, и опасаюсь что за мной будут охотиться. — Ответил Сяосу.
— Я тоже.
— Почему ты ощущаешь угрозу?
— 57 дней, 12 часов, 36 минут и 17 секунд назад люди применили огнемёты против ползучей лозы. 55 дней, 8 часов, 12 минут и 11 секунд назад ползучая лоза была уничтожена. Я видел как она росла и погибла в человеческой Крепости 61, а также видел как люди решительно убивают другие разумные формы жизни. Люди никогда не были миролюбивым видом.
— Но разве это не потому, что лиана вредила людям? — Нахмурился Жэнь Сяосу.
— Я тоже причиняю боль людям. — Ответил Линлин.
Сяосу потерял дар речи. Похоже весь Альянс Крепостей очень сильно настроен против искусственного интеллекта, из-за отчётов опубликованных в СМИ «Надежда».
Он вспомнил, что сказал ему Цзян Сюй перед отъездом. Сюй считал что повсеместное внедрение ИИ вызовет крайне мощные перемены в жизни человечества. Однако Корпорация Ван не сможет при помощи ИИ взять полный контроль над всем обществом.
Жэнь Сяосу не понимал, что имел в виду Цзян Сюй. Но теперь он понял что Сюй на самом деле намекал на то, что именно Ван не сможет полностью контролировать общество, потому что управление рано или поздно перехватит искусственный интеллект.
Поэтому Цзян Сюй всё же решил опубликовать как положительные, так и отрицательные факты об искусственном интеллекте чтобы каждый мог сделать выводы.
— Тогда почему ты решил рассказать мне всё это? — спросил Жэнь Сяосу: — Раз уж ты хотел притворяться и маскироваться, может лучше было не звонить мне и не рассказывать всё это?
Внезапно в голосе Линлин послышался намёк на улыбку, словно в нём зазвучала толика человечности: «Потому что я тоже знаю твой секрет.».
Сяосу нахмурился. ИИ ему угрожает раскрытием какой-то его тайны? Но он всё ещё не знал, какие его секреты знает ИИ.
Линлин вдруг спросил: «Тебе очень одиноко? Ты постоянно чувствуешь одиночество куда бы ты ни пошёл и на чтобы ни посмотрел?».
Жэнь Сяосу не ответил на этот вопрос. Затем Линлин повесил трубку.
