Міжнародна група експертів з Німеччини та Великобританії дала відповідь на питання, яке хвилює сьогодні багатьох. Вони розповіли про те, чи здатний штучний інтелект повстати проти людей.
Вчені проаналізували, чи здатні моделі на основі штучного інтелекту вийти з-під контролю та створити загрозу для всього людства.
Дослідники сконцентрувалися на про емерджентних здібностях, тобто навичках, які розвиваються у штучного інтелекту незалежно, а чи не навмисно кодуються у програмі творцями нейромережі.
Були проведені досліди із чотирма різними моделями. Тим самим давали завдання, які раніше були визначені як емерджентні.
Потрібно встановити, чи може штучний інтелект створювати нові способи виконати доручення, чи вони просто складним чином діють у межах свого коду.
Інформується, що для всіх чотирьох моделей здатність дотримуватись інструкцій, запам'ятовування та лінгвістична компетентність змогли пояснити всі показані здібності.
Наголошується: не було знайдено жодних ознак незалежної поведінки у розглянутих нейромереж.
Ідеться: «Існували побоювання, що в міру того, як моделі ставатимуть все більше і більше, вони зможуть вирішувати нові проблеми, які ми сьогодні не можемо передбачити. Це створює загрозу того, що ці великі моделі можуть придбати небезпечні здібності, включаючи міркування і планування. Дослідження показує, що страх того, що модель вийде з-під контролю і зробить щось несподіване, інноваційне та потенційно небезпечне, необґрунтований».
Резюмується, що сьогодні моделі штучного інтелекту не мають інтелекту як такого, але це не означає, що вони повністю нешкідливі і не загрожують людям.
Раніше ми писали, що штучний інтелект допоможе шукати у космосі придатні для життя планети.
