Довольно часто в СМИ поднимаются вопросы безопасности AI, а именно о невозможности предсказать скорость и направление развития AI, и действия инфраструктуры, переданной под его управление.
Айзек Азимов ещё в середине двадцатого века сформулировал три основных правила робототехники, представляющие собой обязательные правила поведения роботов, в нашем случае также носителей AI.
Три правила робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Безусловно правильные законы, но достаточны ли они. Примеры, того как эти законы могут работать (а вернее не работать) показаны в упрощённой интерпретации в фильме "Я робот" с Уиллом Смитом. Для примера, в юриспруденции часто используют высказывание: "Сколько юристов, столько и мнений". Это именно тот случай, когда одна норма может толковаться совершенно различными способами..
Стоит помнить, что AI это все же детище человека и многое в его развитии будет зависеть именно от личностных качеств создателей.
Наступит ли эра Альтрона или SkyNet (надеюсь, что Арнольд Шварценегер будет всегда с нами, здоровья ему) зависет от нас с Вами, от наших целей, моральных и этических принципов.
Так ли важен AI или все же важнее интеллект эмоциональный. Многое в жизни человека и развитии общества зависит от способности человека взаимодействовать с окружающими, понимать их. Стоит отметить, что именно коммуникация дала первобытным людям развитие и шанс создать, что то поистине значительное на планете Земля.
Развитие эмоционального интеллекта вкупе с высоким уровнем нравственности, этики и гуманизма является залогом стабильного развития нашего общества. Эти правила характерны для всех регионов планеты и именно от них будут зависеть начальные настройки AI.
