Искусственный интеллект может привести к вымиранию человеческого рода. Доклад компании Gladstone AI, подготовленный по заказу Государственного департамента США, рисует тревожную картину катастрофических рисков для национальной безопасности. На этот раз в докладе говорится об ущербе, который может нанести искусственный интеллект и его стремительное развитие. Госдепартамент США предупреждает, что у федерального правительства остается мало времени, чтобы предотвратить катастрофу.
Выводы авторов доклада сделаны на основе опроса более 200 человек, который длился свыше года. Также были опрошены руководители ведущих компаний, занимающихся разработкой искусственного интеллекта. В исследовании также приняли участие ученые в области кибербезопасности, эксперты по оружию массового поражения и правительственные чиновники, занимающиеся вопросами национальной безопасности. Вывод документа, который был опубликован на этой неделе компанией Gladstone AI, весьма категоричен: самые передовые системы искусственного интеллекта в худшем случае могут представлять угрозу вымирания для всего человеческого рода.
"Искусственный интеллект - это технология, которая уже сейчас преобразует экономику. Он может позволить нам лечить болезни, совершать научные прорывы и преодолевать проблемы, которые раньше казались непреодолимыми. Но он также может нести в себе серьезные риски, в том числе катастрофические, о которых мы должны знать. Все больше фактов, включая эмпирические исследования и обзоры, опубликованные на ведущих мировых конференциях по ИИ, свидетельствуют о том, что при превышении определенного порога возможностей искусственные интеллекты могут стать потенциально неконтролируемыми", - заявил директор и соучредитель Gladstone AI Джереми Харрис, которого цитирует CNN.
По мнению компании, самые продвинутые системы искусственного интеллекта могут быть использованы в качестве оружия, чтобы нанести потенциально необратимый ущерб. Во-вторых, как отмечается в докладе, есть опасения, что в какой-то момент они могут потерять контроль над разрабатываемыми системами, что может привести к потенциально разрушительным последствиям для глобальной безопасности. Таким образом, в докладе Gladstone AI об искусственном интеллекте содержится призыв к принятию кардинальных мер по борьбе с этой угрозой, включая создание нового агентства по искусственному интеллекту, введение "чрезвычайных" регулятивных гарантий и ограничение количества компьютерных мощностей, которые могут быть использованы для обучения моделей искусственного интеллекта. Эти выводы дополняют растущий список предупреждений о существовании рисков, связанных с искусственным интеллектом, в том числе от некоторых из самых влиятельных фигур отрасли.
Exclusiv TV
