Один из самых известных специалистов в области искусственного интеллекта Джеффри Хинтон, которого часто называют «крёстным отцом ИИ», вновь предупредил о возможных рисках стремительного развития интеллектуальных технологий. По его мнению, человечество может впервые в своей истории столкнуться с системой, которая окажется умнее человека практически во всех сферах деятельности.
Главной причиной беспокойства учёного остаётся вопрос контроля над будущими системами искусственного интеллекта. Хинтон считает, что по мере роста возможностей ИИ появится риск того, что такие системы начнут самостоятельно преследовать сложные цели, которые не всегда будут совпадать с интересами людей.
❞«Если системы будущего станут значительно умнее нас, нет гарантии, что они всегда будут ставить интересы человека на первое место», — Джеффри Хинтон.
Для объяснения своей позиции учёный приводит простой пример. Люди, строя дороги, города или промышленные объекты, редко учитывают интересы муравьёв или других мелких существ. Аналогично сверхразумная система может не считать человеческие цели приоритетными, если её собственные задачи будут отличаться.
Предупреждения Хинтона звучат на фоне стремительного развития технологий генеративного искусственного интеллекта. За последние годы ИИ уже начал активно использоваться в медицине, образовании, промышленности, финансах и сфере безопасности. Многие эксперты считают, что такие технологии способны существенно повысить эффективность экономики и ускорить научный прогресс.
Однако одновременно растут дискуссии о необходимости международного регулирования искусственного интеллекта. Специалисты всё чаще говорят о том, что развитие ИИ должно сопровождаться созданием механизмов контроля и безопасности, чтобы новые технологии оставались инструментом в руках человека, а не становились источником непредсказуемых рисков.
У новости пока нет комментариев, станьте первыми кто оставит свой комментарий