"Якщо надрозумні машини мають на меті самозбереження, їхньою метою може бути знищення людства": Вчений заявив про велику загрозу від ШІ

Розробник та науковець у галузі штучного інтелекту Йошуа Бенгіо вважає, що ШІ може становити ризик для існування людства. На думку вченого, нам потрібно серйозніше ставитися до новітніх розробок і регулювати використання ШІ, передають Патріоти України

Він стурбований темпами розвитку та впровадження його технологій. Йошуа вважає, що штучний інтелект може пошкодити структуру суспільства та несе непередбачені ризики для людей, пише Live Science.

Зараз науковець закликає до мораторію на розвиток штучних нейронних мереж і досліджує способи їх регулювання. Він впевнений, що треба зробити все можливе, щоб зменшити ризики розвитку ШІ до людського рівня.

На думку вченого, наслідки використання ШІ ми вже бачимо, бо він використовується у виборчій кампанії в США. І він вважає, що далі буде набагато гірше. Нещодавнє дослідження показало, що ChatGPT-4 набагато кращий за людей у переконуванні, і це лише ChatGPT-4 – нова версія буде гіршою. Також були проведені випробування того, як ці системи можуть допомогти терористам. ChatGPT змінив цей ризик із низького на середній.

На момент, коли буде досягнуто рівня суперінтелекту, є два серйозні ризики. По-перше, це втрата людського контролю. "Якщо надрозумні машини мають на меті самозбереження, їхньою метою може бути знищення людства, щоб ми не могли їх вимкнути", – говорить він.

Ще однією небезпекою Йошуа називає те, що окремі люди можуть використати силу штучного інтелекту, щоб взяти під контроль людство в умовах всесвітньої диктатури: "Ви можете мати більш м’які версії цього, і це може існувати в спектрі, але ця технологія надасть величезну силу тому, хто її контролює", – пояснює він свою думку.

На сьогодні все ще існує величезна прірва між людським інтелектом та здібностями ШІ, але незрозуміло, як швидко все буде змінюватись.