Светлана Сергеева 
Профессор Макс Тегмарк провел параллели с гибелью вымерших видов и предоставил неутешительный прогноз: вероятность уничтожения человечества искусственным интеллектом составляет 50%. Это произойдет, когда машины будут "намного умнее нас", но точного времени никто не знает.
Искусственный интеллект (ИИ) уже не кажется чудом из произведений фантастов, а является реальностью. Поэтому не утихают споры о его дальнейшем влиянии на человечество. Так действительно ли следует опасаться ИИ?
Высший разум всегда побеждает
Макс Тегмарк, физик и эксперт по системам ИИ, дал тревожный прогноз относительно нашего будущего на этой планете. Ученый считает, что вероятность уничтожения человечества при дальнейшем развитии искусственного разума составляет 50%.
По словам эксперта, история демонстрирует, что ответственность за уничтожение "меньших" видов (например, птиц додо) лежит на людях - самых умных существах на Земле. Если ИИ станет умнее людей, их может ждать такая же участь, предупреждает ученый. Более того, мы не будем знать, когда наступит наша гибель от рук искусственного интеллекта, ведь менее умные виды всегда не могут знать и быть готовыми к этому.
Ведущие ученые мира считают, что в ближайшем будущем ИИ используют для создания автономного оружия или роботов-киллеров. Как отмечает издание Daily Mailпрофессор Тегмарк сделал мрачные выводы относительно этого процесса.
По его словам, около половины биоразнообразия на Земле уничтожено людьми. Уступая нам интеллектом, "братья наши меньшие" не могли контролировать ситуацию. Поэтому, когда в противостоянии "человек - ИИ" машины станут умнее людей, то последние потеряют над ними контроль. Таким образом все пойдет по аналогичной схеме и приведет к уничтожению человечества.
Риски от ИИ
Профессор Тегмарк - один из тех, кто подписал заявление-предупреждение о рисках от ИИ. В нем утверждается, что уменьшение рисков вымирания от искусственного разума должно иметь глобальный приоритет, так же как от пандемий и ядерной войны.
Недостаточно тщательно запрограммированные технологии могут в дальнейшем привести к фатальной ошибке. Тогда даже безопасное (на первый взгляд) программное обеспечение может поспособствовать уничтожению человечества.
Макс Тегмарк еще в 2018 г. предупреждал, что однажды люди могут стать рабами созданных ими разумных машин. В то время он даже утверждал, что некоторые из его коллег могут приветствовать вымирание вида благодаря ИИ, рассматривая роботов как потомков человечества.
Профессор призывает удерживать формы "суперинтеллекта" под контролем человека, "как собаку на цепи". Но он сомневается, что это будет возможно, когда искусственный разум станет лучше интеллекта человека. Именно это, прежде всего, вызывает наибольшее беспокойство при дальнейшем стремительном развитии ИИ.
Кроме того, что работы не будут иметь каких-либо моральных сомнений, они еще смогут перехитрить человека. Профессор Тегмарк считает, что искусственный разум сможет вырваться из-под контроля людей и захватить власть над ними. По его мнению, риск этого составляет 50%.
Илон Маск призывает к ограничению возможностей ИИ
Как это ни странно, но самый большой ценитель инноваций - миллиардер Илон Маск - поддерживает профессора Тегмарка. При всей любви к техническому прогрессу генеральный директор Tesla осознает потенциальную опасность ИИ и выступает против чрезмерного развития его возможностей.
В марте Маск и 1000 других технологических лидеров призвали приостановить "опасную гонку" по разработке искусственного разума. По их мнению, это представляет "большой риск для общества и человечества" и может иметь "катастрофические" последствия.
Илон Маск еще с 2014 г. высказывает опасения относительно чрезмерного развития ИИ. По его мнению, технологии могут стать настолько продвинутыми, что больше не будут нуждаться во вмешательстве человека. Тогда роботы откажутся выполнять команды, заданные им людьми.
Илон Маск. Фото: Maurizio Pesce
Известный миллиардер отмечает, что речь идет об угрозе на уровне цивилизации. Маск считает, что ИИ "гораздо опаснее, чем ядерное оружие", а с его помощью "люди вызывают демона". Наряду с роботами люди все больше будут становиться похожими на домашних любимцев.
Именно поэтому искусственный разум требует много исследований по соображениям безопасности человечества. Маск считает, что "возможно, есть 5-10% шансов на успех" сделать его безопасным.
Еще в июле 2020 г. известный новатор-предприниматель утверждал, что уже через 5 лет ИИ станет намного умнее людей. Но, по его словам, это еще не приведет к настоящей катастрофе. "Это просто означает, что все становится нестабильным или странным". Будем надеяться, что шансы у человека против ИИ все же существуют.
Фото: pixabay.com
