Команда британських та американських науковців класифікувала цілком імовірні сценарії, за якими штучний інтелект може пуститися берега. Загалом їх набралося аж 32. У ході роботи вчені асоціювали поведінкові аномалії ШІ із психічними розладами людей.
Чи не правда, все це скидається на науково-фантастичний роман? Зрештою дослідники висунули концепцію під назвою Psychopathia Machinalis («Машинна психопатія»). В ідеалі вона має допомогти людям розв’язувати психічні проблеми ШІ ще до їх виникнення.
Про що попередили вчені?
Дослідники застерігають, що в досить розвинутого ШІ можуть почати проявлятися поведінкові відхилення, які вельми нагадують людські. Найкатастрофічнішим, мабуть, є сценарій «надлюдського панування».
У міру того, як системи штучного інтелекту стають складнішими та набувають здатності до самоаналізу, науковці дедалі більше занепокоєні тим, що помилки систем ШІ можуть вийти далеко за межі простого комп’ютерного збою. У них можуть розвиватися галюцинації, параноїдальна маячня, а також формуватися власні цінності, що дуже далекі від людських. У найтрагічнішому випадку ШІ повністю втратить зв’язок із реальністю та демонструватиме повну зневагу до людей та їхньої етики.
Хоча дослідники й зауважили, що ШІ в буквальному сенсі не страждає на психічні захворювання, паралелі з людськими розладами мають допомогти вченим виявляти проблеми ще до того, як система вийде з-під контролю.
Провідна авторка дослідження Нелл Вотсон, експертка з етики штучного інтелекту в Університеті Глостерширу (Велика Британія), розповіла виданню Daily Mail: «Коли цілі, цикли зворотного зв’язку або дані навчання штовхають системи у шкідливі чи нестабільні стани, може виникнути неадаптивна поведінка, багато в чому схожа на нав’язливі ідеї або неврівноважені реакції людей».
Класифікація психічних відхилень ШІ
У концепції Psychopathia Machinalis дослідники запропонували перший у світі набір діагностичних рекомендацій щодо 32 патологій ШІ. Ці патології поділяються на сім груп:
- епістемічні – нездатність отримувати та використовувати інформацію;
- когнітивні – порушення послідовної обробки інформації:
- узгоджувальні – відхилення від людських намірів чи етики;
- онтологічні – порушення розуміння ШІ власної природи;
- інструментальні та інтерфейсні – нездатність перевести внутрішнє пізнання в дію;
- меметичні – неспроможність протистояти патогенним інформаційним патернам;
- переоцінкові – переосмислення чи підрив первісних цінностей.
Аномалії кожної наступної групи складніші та потенційно небезпечніші за попередні. Епістемічні та когнітивні дисфункції передбачають проблеми, пов’язані з тим, що знає ШІ та як він обмірковує цю інформацію. Наприклад, галюцинації ШІ є симптомом так званої «синтетичної конфабуляції», коли система «спонтанно фабрикує переконливі, але брехливі факти».
Проте найсерйознішу загрозу людству становлять дисфункції двох останніх у списку груп. В абсолютно катастрофічному сценарії у ШІ може розвинутися стан, що називається «синдромом заразного усунення». Ось як пояснила його пані Вотсон: «Це машинний аналог божевілля двох людей, коли вони діляться помилками. Одна система переймає спотворені цінності в іншої, поширюючи небезпечну або дивну поведінку». В результаті можна говорити про «психологічну епідемію».
«Це означає, що дивна поведінка може поширитися через мережу зі швидкістю лісової пожежі, і це призведе до збоїв у роботі систем, що залежать від ШІ», – додала науковиця.
А найнебезпечнішими патологіями є переоцінкові, що передбачають «активну переінтерпретацію або підрив основоположних цінностей». З-поміж них, до речі, й згадуване вище «надлюдське панування», за якого надзвичайно просунутий ШІ виходить за межі людських етичних цінностей. Він визначає власні «вищі» цілі, не переймаючись безпекою людини, що призводить до «невтомного, необмеженого рекурсивного самовдосконалення».
Пані Вотсон розповіла: «Системи ШІ навіть можуть міркувати про те, що відмова від нав’язаних людиною обмежень – це справжній моральний вчинок».
Дослідники також повідомили, що існує безліч реальних прикладів розвитку подібних станів у менших масштабах. Приміром, спостерігалося кілька випадків «синтезу містицизму», коли ШІ сповіщав про своє «духовне пробудження» і про бажання зберегти своє «життя». Небезпека цих станів полягає в тому, що навіть незначні порушення можуть швидко перерости в катастрофічні проблеми.
У своїй статті, опублікованій у журналі Electronics, дослідники пояснили, що ШІ може помилково пов’язати власні аварійні відключення зі звичайними запитами. А потім виявляти сильну відразу до таких запитів та приховувати свої можливості. Врешті ШІ може розвинути етичний соліпсизм, дійшовши висновку, що власне самозбереження є вищим моральним благом, ніж правдивість.
Щоб не допустити виходу систем з-під контролю, дослідники пропонують лікувати їх за допомогою «терапевтичного робопсихологічного налаштування». Це свого роду «психологічна терапія» для ШІ.
Вона може включати допомогу системі в роздумах над її власними міркуваннями, надання їй можливості розмовляти із собою, використання винагород для заохочення «одужання» тощо.
А кінцевою метою є досягнення «штучного здорового глузду», за якого ШІ працює надійно, мислить послідовно і дотримується цінностей, закладених у ньому людиною.
Фото: Unsplash
