Главное: Илон Маск и другие технологические лидеры призвали приостановить обучение систем искусственного интеллекта (выше GPT-4), что бы получить время для разработки протоколов безопасности.
Детали: Владелец Twitter Илон Маск и один из основателей корпорации Apple Стив Возняк призывают приостановить разработку систем искусственного интеллекта, более мощных, чем GPT-4. Среди подписантов также известный футуролог и трансгуманист Юваль Ной Харари.
Они подписали письмо (всего - более тысячи подписантов, среди них известные ученые, предприниматели и исследователи) с призывом сделать паузу в разработках как минимум на полгода, чтобы человечество смогло оценить риски, связанные с развитием искусственного интеллекта, и убедиться, что он безопасен.
"Современные системы искусственного интеллекта становятся конкурентноспособными в решении многих задач, и мы должны спросить себя, должны ли мы развивать нечеловеческие умы, которые в конечном итоге смогут превзойти нас численностью, перехитрить и заменить? Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми", - говорится в письме.
В тему: Чат-бот довел бельгийца до самоубийства
В тему: Заговор ИИ против человечества невозможен?
