bagros.ruНовости общества
Вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет, составляет 10%, считает руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер.
Исследователь из Anthropic Джейкоб Коксон объявил о своем уходе из ИИ-индустрии, опасаясь, что гонка технологических корпораций приближает мир к «точке невозврата» и может привести к апокалиптическому сценарию уже в конце 2027 года.
«Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что (вероятность этого – ред.) это больше 10% в течение ближайших десяти лет», — написал он в соцсети Х.
По словам Хьюбингера, существующие разработки не представляют большой угрозы, однако беспокойство вызывают «суперинтеллекты, возникающие в результате повторного самосовершенствования».
«Как мы говорили, это происходит быстрее, чем мы думали», — добавил тестировщик.
В начале августа агент на базе искусственного интеллекта (ИИ) Claude AI компании Anthropic взломал сайт спортзала в Австралии, что стало первой хакерской атакой такого рода в стране.