Техника

Кибернетический голем сможет испытывать счастье и даже голод

Как сообщает газета "Гардиан", не так давно в Южнокорейском центре
исследований разумных роботов создано программное обеспечение,
которое, возможно, сделает роботов личностями. Через два-три
месяца, утверждает директор центра Ким Джонг Хван, этот
софтвер будет окончательно вставлен в "мозг" робота, что
придаст механическому созданию предрасположенность к таким
чувствам, как счастье, печаль, злоба, апатия, голод, страх и
так далее. И это, надо думать, или немного ослабит стоящие
перед человечеством проблемы в отношении наших будущих
отношений с роботами, либо, наоборот, усугубит их.

Как утверждает г-н Ким, новое программное обеспечение будет
моделировать работу человеческой ДНК, наделит роботов 14
"хромосомами", которые и будут определять будущие склонности
наших искусственных собратьев по разуму, а в конечном счете
приведет их к мысли о саморепродуцировании. "Роботы станут
личностями, - уверен Ким Джонг Хван, - у них появятся эмоции,
а это может быть очень опасно для человечества. Если мы с
самого начала снабдим роботов "добрыми" хромосомами, эта
опасность существенно снизится".

Все это можно было бы посчитать обыкновенной ненаучной
фантастикой, если бы не статус Ким Джонг Хвана. Он считается
ведущим специалистом в технологии и этике роботики и вдобавок
является отцом робофутбола - спорта, возникшего лет 10 назад и
до сих пор процветающего.

Александр Нариньяни, директор РосНИИ искусственного
интеллекта, в беседе с корреспондентом "НГ" весьма скептически
отозвался о сообщении.

"Я уверен, что это скорее всего обыкновенный пиар, причем
хорошо сделанный, - считает он. - Полагаю, что ученый, как это
часто сегодня случается, пошел на это для того, чтобы найти
деньги на свои исследования, и правды в этом сообщении не
более 5-10 процентов. В том, что роботы с помощью такой
программы будут наделены чувствами, я сильно сомневаюсь. Как
можно моделировать то, в чем наука еще до конца не
разобралась? Как определить, чувствует машина или не чувствует
и просто имитирует действия разумного существа с большей или
меньшей точностью?"

Интригующее слово "хромосома", по словам Нариньяни, имеет
очень мало общего с биологическими хромосомами, это всего лишь
некий код, с помощью которого можно управлять механизмом
самообучения искусственного разума.

Вообще искусственный разум (искусственный интеллект, ИИ) в
современном понимании представляет собой самообучающуюся
систему, очень грубо моделирующую то немногое, что мы знаем о
процессах, происходящих в нашем мозгу. Некая компьютерная
структура, которую называют нейронной сетью и которая умеет на
основе получаемой информации принимать решения, сначала
принимает их совершенно случайным образом и запоминает
результат. Если результат отрицательный и цель не достигнута
(скажем, цель для движущегося робота - не столкнуться со
стенкой), то в следующий раз при той же ситуации робот уже с
меньшей вероятностью примет "неудачное" решение и в дальнейшем
будет все с большей ловкостью избегать препятствий. Хромосома
в данном случае будет делать этот самый первоначальный
случайный перебор менее случайным, что приведет либо к
удлинению срока обучения, либо к сокращению. Процесс
усложняется, когда количество хромосом и нейронов, то есть
ячеек, принимающих решения, увеличивается. Обучение в этой
ситуации может вообще ни к чему не привести ("garbage in,
garbage out" - "мусор на входе - мусор на выходе"), и тогда
нейросетевые хромосомы становятся просто необходимыми.

14 хромосом в нейронном мозгу кибернетического голема - это,
конечно, достижение, однако сегодня никто не скажет, много это
или мало и есть ли в этом качественный скачок в развитии
искусственного разума и придании ему свойств личности. Весьма
смущает то, что южнокорейский лидер в технологии и этике
роботов сделал свое заявление в обход существующих правил
научного протокола, то есть сначала представил свою работу
журналистам, а не коллегам по цеху через специализированный и,
главное, реферируемый экспертами журнал; также не очень
вдохновляет то, что он заявил о промежуточном результате -
создании соответствующего софтвера, которое еще не проверено
на практике. Как-то все это неконкретно. И все-таки, и все-
таки...

Здесь есть две крепко увязанные между собой "горячие точки",
об одной из которых говорит Нариньяни. Это проблема этико-
философская. "Чем больше мы продвигаемся в развитии систем с
ИИ, - уверен директор РосНИИ искусственного интеллекта, - тем
больше мы вынуждены возвращаться к вечным вопросам: что есть
личность, что есть Я, то самое неповторимое Я, которое нам в
нашем сознании так трудно лишить права на бессмертие, и так ли
чувствуют себя другие Я, как чувствую Я сам, так ли они
страдают, так ли радуются, и не видят ли они зеленое там, где
я вижу синее?"
Есть и этический аспект - с какого момента мы принуждены будем
считать роботов просто другой равноправной расой, которая
вовсе не обязана нам служить и соответственно должна быть
наделена теми же, что и мы, юридическими правами? И вообще,
настанет ли когда-либо такой момент. Другими словами, даже
если усилия наших Франкенштейнов по созданию искусственных
разумных существ успехом не увенчаются (что вряд ли -
увенчаются, уж будьте спокойны), уже сейчас ими создан
инструмент, позволяющий нам не только задумываться над
собственными глубинными философскими проблемами, но и
понуждающий нас заниматься ими.

Второй аспект - так называемое "наступление роботов". Многие
исследователи, занимающиеся искусственным разумом, предрекают
человечеству довольно неприятное будущее - роботы, считают
они, неизбежно превзойдут человека по всем параметрам, причем
случится это не в таком уже отдаленном будущем, и особенно
этому превосходству будут способствовать, возможно, грядущие
"электронные" войны с применением последних достижений
роботехники, где "умные" бомбы будут охотиться за "умными"
целями, да еще и отбиваться от "умных" противобомб. Чтобы
победить в такой войне, люди должны будут делать их все умнее
и все больше и больше ослаблять контроль над ними, и в конце
концов вообще потеряют его. И "умное" оружие в итоге восстанет
против своих создателей, уничтожит их, займет их место -
особенно если научится самовоспроизводству. Такой вот
очередной армагеддонский сценарий.

Подобных антиутопий сегодня не счесть - даже как-то и скучно.
По всей видимости, люди уже по своей природе обожают себя
пугать всякими страшилками, зная наперед, что на самом деле
ничего подобного не случится, что Земля не перегреется,
астероид не упадет, коварная генетика не изуродует нас до
полной несовместимости с жизнью и так далее и тому подобное.
Угроза "неизбежности страшного мира роботов" в этом ряду
выглядит сегодня, увы, вполне реальной. И корейский
роботехнолог Ким Джонг Хван, судя по его словам, вполне эту
угрозу осознает, хотя, возможно, и использует ее в собственных
рекламных целях.

Напомним, он говорит, что с помощью правильного подбора
"хромосом" разумного робота можно сделать добрее, мягче -
собственно, задать ему как непреложность те самые законы
роботехники, о которых говорил еще Айзек Азимов, и тем самым
избежать робото-человеческого конфликта. Правда, тут опять
проблема - законы, сформулированные великим фантастом, вряд ли
найдут себе применение в реальном мире, особенно если роботы
понадобятся на войне. А чисто человеческая этика... Увы, она
пока не уберегает нас от взаимоуничтожения. Так что, хочешь не
хочешь, а придется возвращаться к "вечным" философским
вопросам и как-то решать эту проблему.

Если успеем, разумеется!

Источник: Владимир Покровский, "Независимая газета", N56, 23.03.2005, с. 11, 15 "СОЗДАНЫ НЕЙРОСЕТЕВЫЕ ХРОМОСОМЫ ДЛЯ РОБОТОВ"

Нажмите, чтобы прокомментировать

Вы можете сказать по этому поводу все что думаете

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Новое

To Top