Главное: В ходе дискуссии между людьми и искусственным интеллектом в Оксфордском университете, нейросеть на основе языковой модели Megatron-Turing NLG заявила, что люди пока что неспособны сделать ИИ нравственным. Кроме того, она предостерегла человечество от использования ИИ в гонке вооружений.
Детали: Специалисты Оксфордского университета организовали дискуссию между людьми и искусственным интеллектом, чтобы поговорить о будущем отрасли. Как сообщает Lenta.ru, разработанная учеными нейросеть базировалась на языковой модели Megatron-Turing NLG.
Искусственный интеллект был основан на оборудовании Nvidia и ранних разработках Google. Чтобы обучить ее, эксперты загрузили в нейросеть всю «Википедию» на английском языке, 63 миллиона статей из интернета за 2016-2019 гг и архив с тредами на Reddit объемом 38 гигабайт.
На основании этих данных была создана модель, которая смогла вести диалог с учеными.
В частности, специалисты попросили нейросеть объяснить, почему искусственный интеллект никогда не будет этичным. «Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред», — ответила нейросеть, заметив, что ИИ бывают хорошие и плохие. Также в ответе говорилось, что люди недостаточно умны, чтобы сделать ИИ нравственным.
В конечном итоге Megatron-Turing NLG предупредила людей об опасности искусственного интеллекта. «Единственный способ избежать гонки вооружений ИИ — это вообще не иметь дела с ИИ», — заключила она.
В тему: В конце 2020 года власти Ирана заявили, что ведущий физик-ядерщик страны Мухсин Фахризаде был убит в том числе при участии искусственного интеллекта.
Тогда же ученые Университета Саншайн-Коста в Австралии выяснили, что высокоразвитый искусственный интеллект способен уничтожить человечество или нанести ему катастрофический ущерб даже без злого умысла.
В середине 2021 года группа экспертов Совета Безопасности ООН по Ливии зафиксировала первое в истории использование боевого беспилотного аппарата против людей в автономном режиме. По их данным, в марте 2020 года турецкий дрон Kargu-2 в ходе конфликта между правительственными силами Ливии и силами Ливийской национальной армии под командованием мятежного фельдмаршала Халифы Хафтара самостоятельно выследил живую цель и атаковал ее.