Про серйозні ризики штучного інтелекту попереджають працівники OpenAI
Співробітники компаній-розробників ШІ-стартапу хочуть отримати захист, щоб висловлюватися про «серйозні ризики» цього продукту.
Нинішні та колишні співробітники OpenAI та Google DeepMind кажуть, що «широкі угоди про конфіденційність не дозволяють їм висловлювати свої побоювання» щодо «серйозних ризиків» технологій, які створюють ці та інші компанії. Про це пише Bloomberg.
«Поки за цими корпораціями не буде ефективного державного нагляду, нинішні та колишні співробітники є одними з небагатьох людей, хто може закликати їх до відповіді перед громадськістю», – йдеться в публічному листі, який підписали 13людей, які працювали в компанії, сім із яких вказали свої імена.
Зазначається, що останнім часом OpenAI зіткнулася з протиріччями щодо свого підходу до захисту штучного інтелекту після розпуску однієї з найвищих команд безпеки та серії звільнень співробітників. Їх зобов'язали підписати угоду, яка по суті не дозволяє виступати проти ШІ-стартапу.
«Широкі угоди про конфіденційність не дозволяють нам озвучувати наші побоювання, за винятком тих самих компаній, які, можливо, не вирішують ці проблеми», – йдеться у повідомленні.
Група нинішніх і колишніх співробітників OpenAI та Google DeepMind закликають до захисту від відплати за те, що вони діляться побоюваннями щодо «серйозних ризиків» технологій, які створюють ці та інші компанії.
Зокрема, Леопольд Ашенбреннер, ексінженер OpenAI, написав 165-сторінковий документ, де стверджує, що до 2027 року ми досягнемо AGI (ШІ, що дорівнює людському). Він також вважає, що цей AGI швидкими темпами зможе зрости до рівня ASI (ШІ, що перевершує людський).
Як писала СПЖ, «Отець Іустин»: У РКЦ запустили додаток на основі ШІ для відповідей про віру.
