Искусственный интеллект: вред или польза?

Сегодня журналисты, которым известна моя осторожная позиция по вопросам внедрения цифровых технологий в избирательный процесс, задали вопрос: неужели развитие искусственного интеллекта не может положительно повлиять на выборы?

Отвечаю.

– Конечно, искусственный интеллект, как и любая другая технология, может принести человеку с равным эффектом как вред, так и пользу.

Все зависит от исходного кода, заданного человеком при "рождении" искусственного интеллекта. Если его изначально не запрограммировать должным образом, то ошибки и трагедии неизбежны.

Напомню в этой связи о законах робототехники, сформулированных Айзеком Азимовым.

Первый закон робототехники: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Второй закон робототехники: робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.

Третий закон робототехники: робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам.

Если бы разработчики ИИ изначально закладывали в свой продукт подобные императивы, то результаты их работы можно было бы считать относительно безопасными, в том числе и в электоральной сфере.

Однако в настоящее время такой уверенности нет и быть не может.

Не секрет, ИИ разрабатывается военными институтами в США и на Западе (например, Defense Advanced Research Projects Agency, DARPA) в том числе и для ведения информационных войн, операций психологического давления и манипулирования обществом.

Целый ряд политических процессов на территории бывшего СССР показали, что подрыв электорального суверенитета – это первая стадия большинства цветных революций. Сгенерированная искусственным интеллектом информация активно используется в этих процессах.

Проще говоря, ИИ сегодня это не только помощник, но и шпион, агент влияния, солдат специальных психологических операций. Его поведение пока, на данном уровне цифровизации, еще зависит от решений живого человека.

В будущем эта зависимость может быть преодолена, поскольку в прошлом создатель сознательно не исключил обман, манипуляции и насилие из арсенала искусственного интеллекта. И тогда голливудская "Скайнет" в действительности может породить терминатора.

Самое страшное, что мы, находясь в плену виртуальной реальности, можем и не заметить того, как по приказу синтетического разума начнём истреблять сначала демократические свободы, а затем – и друг друга.