В дебатах касательно будущего искусственного интеллекта есть две стороны. Одна, представленная такими компаниями, как Google, Facebook, Amazon и Microsoft, выступает за инвестирование в ИИ, чтобы он стал ещё развитие и умнее, и вторая, поддерживаемая такими выдающимися личностями, как Илон Маск и Стивен Хокинг, отстаивает свою точку зрения, что роботы будущего – реальная угроза человечеству.

DeepMind, компания ИИ, принадлежащая Google, разработала меры безопасности в случае, если человеку понадобится взять управление роботом под свой контроль, - сообщает Robotics.ua.

К примеру, если в системе произойдет сбой, это может привести к ужасным последствиям. Конечно, пока что речь идет не о возможном апокалипсисе, а просто о мерах безопасности по отношению к роботам, заменяющих рабочих на заводах и фабриках.

Эта работа была проведена DeepMind в сотрудничестве с Оксфордским институтом будущего человечества. Учредитель института Ник Бостром уже не раз рьяно высказывался об опасности развития искусственного разума и последствиях создания сверх умных роботов в своих книгах.

Суть исследований

Работа, называемая "Безопасно отключаемые агенты", исследует вопрос отключения робота, если он начинает действовать против указаний человека-оператора. В содержании проекта целая масса вычислений и формул, непостижимых для большинства из нас. Но если обобщить все эти понятия, то будет создана своего рода "красная кнопка" отключения искусственного разума.

(Искусственный интеллект) Google DeepMind создает «красную кнопку» отключения искусственного разума

Множество научно-фантастических фильмов показывают нам о том, что может сделать роботов неуправляемыми, не поддаваемыми никаким кнопкам выключения. Ученые призывают быть готовыми к тому, что это может произойти в один прекрасный день в нашем реальном мире. Поэтому эти исследования Google описывают пути решения этого вопроса и позволяют убедиться, что у нас есть шанс сохранить свое превосходство над машинами в будущем и предотвращение опасных последствий.

Читайте также: Илон Маск: как предотвратить наше порабощение роботами?

Учитывая, что современный ИИ способен разве что обыграть человека в какую-нибудь настольную игру, эти действия кажутся излишними. Но Бостром уверен, что до того времени, как ИИ станет на уровне человека, нам нужно принять соответствущие меры безопасности. "Когда искусственный интеллект дойдет до уровня человека, многие сферы нашей жизнедеятельности получать сильный толчок в развитии. Более того, роботы будут способны создавать новых роботов. Поэтому нам нужно быть очень бдительными".