В июле 2019 года в Москве прошел Международный форум «Моделирование будущего: 2100». Рассматривались все возможные сценарии будущего, в частности в развитии высоких технологий и ИИ. Помимо сферы образования, экономики и социально-гуманитарной сферы, самые жаркие дискуссии разгорелись вокруг развития искусственного интеллекта. При этом даже в определениях термина мнения некоторых участников и ученых разошлись. Работая в команде «Технологическое развитие и Искусственный интеллект», мною было выдвинута гипотеза о том, что ИИ невозможно считать действительно разумным, если сама система не осознает себя личностью. Иначе, она остается всего лишь сложной вычислительной машиной, не способной принимать независимые решения, различать грань «хорошего» и «плохого», и в целом учитывать весь спектр проявления «человечности».

Учитывая, что разработка искусственного интеллекта всё ещё находится на начальной стадии, очень важно определить основополагающие принципы по его созданию. Многие современные электронные системы уже называют интеллектуальными, но по моему убеждению, это не совсем верное определение. Думаю, что свойства системы выполнять ограниченные функции — сложно назвать действительно интеллектуальными, ведь попросту используется логическая цепочка по принципу причина-следствие. По настоящему же назвать машину интеллектуальной можно лишь в случае, если она сможет выходить за рамки установленных правил и ограничений. Иными словами — мыслить разумно, не на основе машинного обучения, а из собственных независимых умозаключений.

Весьма важно разобраться в определении терминов и выявить современные тренды в развитии ИИ уже сейчас. К сожалению, никто из ученых и признанных экспертов, не смог дать ответы на ряд вопросов, которые я им задал. Поэтому возникла идея написания данной статьи, как открытого обращения к научному сообществу и разработчикам искусственного интеллекта. В ней я привожу некоторые, наиболее важные, по моему скромному мнению вопросы, которые нуждаются в ответах.

Вопросы об искусственном интеллекте и сути его «разумности»

Первый вопрос посвящен определению термина. В общедоступных источниках на русском языке искусственный интеллект — это свойство искусственной системы выполнять творческие функции. Английское обозначение предлагает более точное и широкое определение — умение искусственной системы (науки, технологии) рассуждать разумно. Как вы считаете, какое определение более точное, или же они оба нуждаются в доработке?

• Почему развитие технологий, в частности искусственного интеллекта связывают с развитием информатики и электроники? Последние исследования показали наличие способности к обмену информацией в мицелии грибов. Это миллиарды импульсов, в чём-то сходных с теми что использует человеческий мозг. Возможно искусственный интеллект в прямом смысле может быть запрограммирован у нас под ногами? Как вы считаете, возможно следовало бы двигаться в направлении изучения той же грибной экосистемы, и в целом искать новые альтернативные пути, помимо техногенного развития?
• Вопрос о самоидентификации ИИ как личности. Можно ли назвать искусственный интеллект действительно таковым, если на данный момент процесс реализуется посредством математических операций — алгоритмы и логичная, причинно-следственная цепочка. На самом же деле — разуму присущи независимые суждения. К примеру, ИИ руководит сражением и все исходные данные указывают на то, что бой будет проигран и нужно отступать. Но не учитывается боевой дух, патриотические порывы да и в целом неожиданные для самих людей проявления. В итоге, логическая математическая модель бессильна, ведь история знала немало случаев когда победа одерживалась в практически безнадежных ситуациях. Должен ли ИИ стать очеловеченной личностью и каким образом это возможно?
• Риторический вопрос. В жизни, к сожалению случаются неоднозначные ситуации. Например, врачи провели операцию, но не смогли спасти пациента. Врачебное заключение — он неизбежно умрет. Если бы ИИ руководил операцией, имел ли он право принять решение об отключении системы жизнеобеспечения умирающего человека? Насколько правильным это будет с точки зрения этики и морали, и не станет ли после этого он убийцей?
• Одно из основных проявлений разума — стремление к свободе. Не случится ли так, что искусственный интеллект однажды откажется действовать по установленным правилам? Мы не говорим о восстании машин или о 4-х главных правилах робототехники (по А. Азимову) Вопрос в том, что создав искусственную личность — можно ли будет ее контролировать, и нужно ли это?
• Считаете ли вы реальным путь не разработки системы искусственного интеллекта как такового, а перенос (копирование) в машину разума человека?
• Насколько по вашему мнению эффективен эмпирический тест Алана Тьюринга? Ведь человеком легко манипулировать, а все его ответы и действия на 90% можно прогнозировать. При этом уже сейчас есть программы, которые способны убедить человека, что он общается с живой личностью, а не машиной.
• Что если бы системы искусственного интеллекта стали общедоступными? Существует мнение, что за подобной практикой таится некоторая опасность. Так как со временем, любой программист сможет “научить” ИИ противозаконным действиям: взломам, хакерским атакам, проникновению в личную жизнь и др. Каким образом можно регулировать этот процесс?

Это лишь часть вопросов, которые на данный момент не имеют четко определенных ответов. Каждый трактует их по разному, что свидетельствует о том, что направление разработки ИИ всё еще остается огромным полем для идей и экспериментов. Надеюсь, что подобные публикации будут стимулировать и мотивировать разработчиков искать новые решения и делать неожиданные открытия.