Пять основных проблем безопасной эксплуатации роботов

Компания Google всегда подходит ко всем разработкам с практической стороны и тщательно взвешивает все «за» и «против», предусматривая самые различные сценарии. Не является исключением и робототехника. Нет, в офисах компании не беспокоятся о том, что машины взбунтуются и захватят мир — заботы специалистов Google гораздо более реалистичны. Что будет, если из-за сбоя в программе или по какой-либо другой причине, робот нанесет вред человеку, например ударит его? Если выражаться точно, то новую свою  работу специалисты IT отрасли назвали «Проблемы безопасности искусственного интеллекта».

Чтобы получить ответы на все возникающие вопросы, ученым нужно ответить на пять ключевых вопросов:

• Каким образом избежать побочных эффектов, то есть помешать роботу нанести ущерб людям и окружающим предметам, ради достижения поставленной перед ним цели?
• Как избежать намеренный действий искусственного интеллекта, направленных на получение выгоды? Другими словами, как не допустить того, чтобы робот намеренно сорил на вверенной ему территории, чтобы продолжать выполнять свою программу по уборке, несмотря ни на что.
• Проблема надзора — насколько свободен может быть искусственный интеллект в выборе? Можно ли доверить принятие решений машине, или стоит ограничить ее право на выбор и заставить получать конкретные задания от человека?
• Безопасное любопытство. Как избежать преднамеренных действий устройства с искусственным интеллектом, направленные на изучение окружающего мира. В погоне за информацией машина может нанести ущерб имуществу или даже попытаться изучить устройство человека.
• Отношение к личному пространству. Робот, работающий на предприятии или улице и робот, помогающий по дому, должны вести себя по-разному в отношении к людям и среде их обитания. Как обучить искусственный интеллект различать и уважать личное пространство?

Если ранее считалось, что взаимоотношения человека и робота можно описать тремя законами робототехники, предложенными Айзеком Азимовым, то сегодня становится ясно, что проблема гораздо глубже и нуждается в тщательном изучении. Запрограммировать робота с учетом всех сценариев просто невозможно и рано или поздно человек придет к решению дать машине некоторое, пусть даже ограниченное право выбора. В таком случае избежать умышленного или случайного нанесения ущерба самому роботу или его окружению будет невероятно сложно.

В разработке компании Google предусматриваются несколько вариантов решения задачи, начиная от необходимости ограничивать перемещение робота определенной траекторией или территорией и заканчивая необходимостью работы с человеком-надсмоторщиком. Никто не будет спорить с тем, что все решения далеки от идеала и имеют больше недостатков, чем достоинств, но специалисты компании пока и не ставили перед собой цель решить все головоломки — они скорее работают над тем, чтобы обрисовать все «подводные камни», с которыми может столкнуться человечество при массовом использовании робототехники. Прежде чем думать над тем, как не допустить умышленного причинения вреда роботом человеку, нужно исключить случайности — к сожалению, ситуации, когда робот калечил или убивал человека уже случались и это происходило непреднамеренно.

Несмотря на то, что Google избавилась от купленной в 2013 Boston Dynamics, ее интерес к робототехнике не снизился. а наоборот вышел на новый, более высокий уровень.