Как контролировать искусственный интеллект в военной сфере. Мнение эксперта

Соединенные Штаты хотели бы разрабатывать нормы применения искусственного интеллекта в военной сфере вместе с Россией и Китаем. Об этом заявила заместитель госсекретаря США по контролю над вооружениями и международной безопасности Бонни Дженкинс.

"Мы считаем, что речь идет о вопросах, о которых следует думать всем странам, которые [им] следует принимать во внимание — в плане того, как они рассматривают применение ИИ в вооруженных силах. Так что мы никого на данном этапе не исключаем. Мы действительно хотим посмотреть, что на этот счет думают [другие] страны", — заявила Дженкинс.

Эксперт по конкурентной разведке  Евгений Ющук полагает, что «с одной стороны США ставят правильный вопрос, и это тот нечастый случай, когда США ставят правильный вопрос. Связано это с тем, что искусственный интеллект действительно представляет серьезную опасность для человечества, причем не просто опасность, и иначе бы его криминализировали и запретили, но и пользу, хотя при этом опасность очень большая.  Ибо это первое появление после биологических людей вида практически живых существ, который умнее человека, быстрее человека, и точнее человека, а самое главное - не нуждается в особой среде обитания, которая нужна человеку.  Поэтому если искусственный интеллект выйдет из-под контроля и будет действовать как разумное существо, то он может создать людям условия, в которых они жить не смогут вообще.  Опасность такая есть, и то, что военные будут применять искусственный интеллект, и они его уже применяют, это логично, поэтому идея как-то эти процессы контролировать идея правильная. Но, с другой стороны, желание посмотреть, а что делают конкуренты, в США тоже присутствует. Хотя тут надо понимать, что в таких вопросах баланс секретности и угроз всегда соблюдается, поэтому контроль какой-то должен быть. В тоже время, очевидно, что военные своих тайн никому рассказывать не будут».  

По словам эксперта, «сейчас нет никаких ограничений в компьютерных технологиях, применяемых в военных целях в принципе. Когда речь шла о ядерном оружии, его можно было контролировать, его количество, количество носителей и где оно размешено.  Поэтому сделать так, чтобы наступательные возможности не были реализованы в компьютерных технологиях, теоретически возможно, но это сфера даже не эфемерная, а просто новая. И для того, чтобы выработать такие подходы как ограничить искусственный интеллект и не выдать секретов, этим надо как раз заниматься совместно. Иначе это будет абсолютно бесконтрольная ситуация.  И она не приведет к победе кого-то одного, а это будет хуже применения ядерного оружия, если искусственный интеллект в военной сфере выйдет из-под контроля. Поэтому если бы не было большой боязни общей катастрофы, то это предложение Бонни Дженкинс было бы просто пустыми словами».