Выдумка или факт: Уничтожит ли робопокалипсис человечество?

Выдумка или факт: Уничтожит ли робопокалипсис человечество?

Если киносценаристы-фантасты правы, война между человечеством и машинами однажды уничтожит цивилизацию. Две популярные кино-эпопеи, основанные на теме «робопокалипсиса», франшизы «Терминатор» и «Матрица», являются ярким подтверждением того, что бОльшая автономия машин с искусственным интеллектом будет означать уничтожение нашего вида (временное, естественно, благодаря Джону Коннору и Нео).

Исходя из современных тенденций технологического развития, является ли сценарий «робопокалипсиса» надуманным, или все же, в нем есть что-то пророческое? Судьба мира может склониться к любому краю, в зависимости от того, кому вы задаете этот вопрос.

Исследователи в области компьютерных знаний находят нелепой версию доминирования машин. Они считают, что отношения между нами и машинами будут гармоничными, а не смертоносными. Тем не менее, существует ряд сценариев, которые могут привести к тому, что не-биологические существа постепенно уничтожат нас.

«На сегодняшний день уже существует технология, позволяющая построить систему, которая уничтожит весь мир, намеренно или невзначай, если только ей удастся зафиксировать нужные для этого условия», говорит Шломо Зилберштейн, профессор компьютерных знаний Массачусетского университета.

Машины под нашим управлением

Давайте, для начала, рассмотрим оптимистическую точку зрения: о том, что машины всегда будут нашими слугами, и никак иначе.

«Одним из подходов является намеренный отказ от разработки таких систем, которые могли бы стать опасными, в случае их выхода из-под контроля человека», говорит Зилберштейн.

Что-то наподобие Skynet — компьютеризированной системы обороны в фильме «Терминатор», которая принимает решение об уничтожении человечества — уже возможно создать. Так почему подобная система еще не была построена? По очень серьезной причине: ядерные державы, такие как Россия и США, ни за что не доверят компьютеру принимать решение о начале ядерной войны. «А что если в систему попадет вирус?», — спрашивает Зилберштейн. «Никто не возьмет на себя подобный риск».

В меньших масштабах, однако, компьютерным беспилотникам, летающим в Афганистане, предоставляется достаточно высокая степень автономности. «Количество роботизированных систем, которые уже сегодня могут принимать решение об атаке, существенно растет», говорит Зилберштейн.

Тем не менее, человек-оператор все еще контролирует беспилотник, и в конечном итоге он сам решает, наносить ли бомбовый удар по цели. Конечно же, все вышеуказанное не касается системы Skynet, которой в фильме «Терминатор», был отдан полный контроль над ядерным арсеналом Соединенных Штатов.

В фильме «Терминатор» военные намеренно создают программу, которая свела бы на нет возможность человеческой ошибки и медлительность, в случае стороннего нападения на США.

Когда люди, наконец, осознают, насколько опасна угроза, исходящая от всесильной Skynet, они пытаются ее отключить. Система, однако, интерпретирует это действие как угрозу собственному существованию, и с целью уничтожить своих врагов, осуществляет ядерный удар по России, чем провоцирует ответный удар-возмездие. Миллиарды умирают в ядерном холокосте. Затем, Skynet начинает строить фабрики, выпускающие боевых роботов, которые постепенно уничтожают остатки человечества.

В реальности, по мнению Зилберштейна, принятие нескольких простых мер, сможет оградить автономную систему от угрозы человечеству. Конечно, никакие системы не будут запрограммированы на принятие самостоятельных стратегические решений.

«Все системы, которые будут построены нами в ближайшем будущем, будут обладать особыми навыками», утверждает Зилберштейн. «Они смогут контролировать местность, и возможно, стрелять, но они никогда не заменят генерала-человека».

Всевластные роботы

Майкл Дайр, ученый программист из Калифорнийского университета, Лос-Анджелес, менее оптимистичен. Он считает, что «в конечном итоге, человечество будет заменено машинами», и передача полномочий не сможет пройти мирным путем.

Постоянный прогресс в сфере создания искусственного интеллекта уже в ближайшее столетие приведет к созданию машин, по сообразительности не уступающих человеку, предсказывает Дайр. «Развитые цивилизации достигают точки осознания того, как работает их собственный мозг. Поняв это, они начнут создавать синтетические копии самих себя», говорит ученый.

Желание создать свою искусственную копию может быть связано с попытками изобрести «эликсир молодости», стать бессмертными — с этим искушением будет тяжело бороться.

Возможно, переход от биологии к технологии и пройдет достаточно мирно. Другие сценарии «восстания машин» более кровавые.

Дайр, считает, что новая раса роботизированных роботов сможет радикально изменить расклад сил в обществе. «В случае военного столкновения, по определению, противная сторона не сможет контролировать роботов, пытающихся уничтожить ее», говорит Дайр. Также как и со Skynet, продукт может обратиться против производителей.

Или представим себе, на первый взгляд, безобидную ситуацию гиперзависимости от роботов и их труда. Предположим, что фабрика по выпуску роботов не управляется самим человеком. Отдается приказ о прекращении производства. «Однако системе удается заполучить контроль над электростанцией, и она отказывается выполнить приказ. Тогда человек приказывает не доставлять материалы на фабрику. Но вот незадача, водители тоже роботы, и они тоже отвечают на требования человека отказом. Как вам такая ситуация?», говорит Дайр.

Возможно, используя интернет, компьютерный разум захватит контроль над роботами, которые к тому времени будут в доме каждого из нас («Аниматрица», серия коротких мультфильмов в 2003 году, неплохо описывает подобную ситуацию).

В общем, лишь разум и осмотрительность могут уберечь человечество от капкана, который нам так живописно описали голливудские сценаристы. Однако желание добиться более низких издержек наверняка побудит бизнес к большей автоматизации, а пример Холодной войны должен служить нам серьезным примером того, что лишь рациональный подход может уберечь человечество от гарантированного взаимного ядерного уничтожения.

«Знаете, очень легко представить сценарий Судного дня, и я бы не исключал такой возможности», — говорит Зилберштейн, — «Однако я бы и не сильно волновался об этом».

Автор

Запись опубликована 24 Июнь 2012 в разделе Робототехника