Світлана Сергеєва 
Професор Макс Тегмарк провів паралелі із загибеллю вимерлих видів та надав невтішний прогноз: ймовірність знищення людства штучним інтелектом становить 50%. Це станеться, коли машини будуть «набагато розумнішими за нас», але точного часу ніхто не знає.
Штучний інтелект (ШІ) вже не здається дивом із творів фантастів, а є реальністю. Тому не вщухають суперечки щодо його подальшого впливу на людство. То чи насправді слід побоюватися ШІ?
Вищий розум завжди перемагає
Макс Тегмарк, фізик і експерт з систем ШІ, дав тривожний прогноз щодо нашого майбутнього на цій планеті. Вчений вважає, що ймовірність знищення людства при подальшому розвитку штучного розуму становить 50%.
За словами експерта, історія демонструє, що відповідальність за знищення «менших» видів (наприклад, птахів додо) лежить на людях – найрозумніших істотах на Землі. Якщо ШІ стане розумнішим за людей, на них може чекати така ж доля, попереджає науковець. Більш того, ми не знатимемо, коли настане наша загибель від рук штучного інтелекту, адже менш розумні види завжди не можуть знати та бути готовими до цього.
Провідні вчені світу вважають, що в найближчому майбутньому ШІ використають для створення автономної зброї або роботів-кілерів. Як зазначає видання Daily Mail, професор Тегмарк зробив похмурі висновки щодо цього процесу.
За його словами, близько половини біорізноманіття на Землі знищено людьми. Поступаючись нам інтелектом, «брати наші менші» не могли контролювати ситуацію. Тому, коли у протистоянні «людина – ШІ» машини стануть розумнішими за людей, то останні втратять над ними контроль. Таким чином все піде по аналогічній схемі та призведе до знищення людства.
Ризики від ШІ
Професор Тегмарк – один із тих, хто підписав заяву-попередження про ризики від ШІ. В ній стверджується, що зменшення ризиків вимирання від штучного розуму повинно мати глобальний пріоритет, так само як від пандемій та ядерної війни.
Недостатньо ретельно запрограмовані технології можуть надалі призвести до фатальної помилки. Тоді навіть безпечне (на перший погляд) програмне забезпечення може посприяти знищенню людства.
Макс Тегмарк ще у 2018 р. попереджував, що одного дня люди можуть стати рабами створених ними розумних машин. У той час він навіть стверджував, що деякі з його колег можуть вітати вимирання виду завдяки ШІ, розглядаючи роботів як нащадків людства.
Професор закликає утримувати форми «суперінтелекту» під контролем людини, «як собаку на ланцюгу». Але він має сумніви, що це буде можливо, коли штучний розум стане кращим за інтелект людини. Саме це, перш за все, викликає найбільше занепокоєння при подальшому стрімкому розвитку ШІ.
Окрім того, що роботи не будуть мати будь-яких моральних сумнівів, вони ще зможуть перехитрити людину. Професор Тегмарк вважає, що штучний розум зможе вирватися з-під контролю людей та захопити владу над ними. На його думку, ризик цього становить 50%.
Ілон Маск закликає до обмежень можливостей ШІ
Як це не дивно, але найбільший поціновувач інновацій – мільярдер Ілон Маск – підтримує професора Тегмарка. При всій любові до технічного прогресу генеральний директор Tesla усвідомлює потенційну небезпеку ШІ та виступає проти надмірного розвитку його можливостей.
У березні Маск і 1000 інших технологічних лідерів закликали призупинити «небезпечні перегони» із розробки штучного розуму. На їхню думку, це становить «великий ризик для суспільства та людства» та може мати «катастрофічні» наслідки.
Ілон Маск ще з 2014 р. висловлює побоювання щодо надмірного розвитку ШІ. На його думку, технології можуть стати настільки просунутими, що більше не потребуватимуть втручання людини. Тоді роботи відмовляться виконувати команди, задані їм людьми.
Ілон Маск. Фото: Maurizio Pesce
Відомий мільярдер зазначає, що йдеться про загрозу на рівні цивілізації. Маск вважає, що ШІ «набагато небезпечніший, ніж ядерна зброя», а за його допомогою «люди викликають демона». Поряд із роботами люди все більше будуть ставати схожими на домашніх улюбленців.
Саме тому штучний розум вимагає багато досліджень з міркувань безпеки людства. Маск вважає, що «можливо, є 5-10% шансів на успіх» зробити його безпечним.
Ще у липні 2020 р. відомий новатор-підприємець стверджував, що вже через 5 років ШІ стане набагато розумнішим за людей. Але, за його словами, це ще не призведе до справжньої катастрофи. «Це просто означає, що все стає нестабільним або дивним». Будемо сподіватися, що шанси у людини проти ШІ все ж існують.
Фото: pixabay.com
