Создатель ИИ назвал единственный способ избежать уничтожения людей
Баку, 2 марта, АЗЕРТАДЖ
Один из пионеров исследований в области искусственного интеллекта, доктор Джеффри Хинтон, заявил, что для предотвращения потенциальных угроз со стороны сверхразумных ИИ-систем необходим принципиально новый подход к их проектированию: внедрение механизмов заботы и ответственности, условно описываемых как материнские инстинкты.
Как сообщает АЗЕРТАДЖ со ссылкой на зарубежные СМИ, соответствующее заявление ученый сделал в ходе отраслевой конференции Ai4 в Лас-Вегасе. По его словам, по мере роста интеллектуальных возможностей ИИ требуется закладывать в системы не только функции помощи человеку, но и внутренние ограничения, ориентированные на защиту людей.
Джеффри Хинтон провел аналогию с материнским поведением, отметив, что в человеческом обществе именно отношения матери и ребенка являются редким примером, когда более умная и сильная сущность добровольно подчиняет свои действия заботе о менее развитой. «Нам нужны не просто ИИ-помощники, а своего рода «ИИ-матери». Помощника можно отключить или освободить, но мать – нет», — подчеркнул он.
При этом ученый признал, что на данный момент не существует четкого технического понимания того, как реализовать подобную концепцию на практике и насколько она может быть эффективной в реальных ИИ-системах.
Хинтон также отметил, что риски, связанные с развитием искусственного интеллекта, продолжают расти. Ранее он оценивал вероятность экзистенциальной угрозы для человечества на уровне около 10 %, однако в настоящее время допускает, что этот показатель может составлять 10–20 %.
Джеффри Хинтон считается одним из основателей современных подходов к машинному обучению благодаря фундаментальным работам в области искусственных нейронных сетей. В 2023 году он покинул компанию Google, после того как группа из более чем тысячи специалистов подписала открытое письмо с призывом временно приостановить развитие ИИ-технологий с целью снижения возможных рисков для общества и человечества.
Эксперты отмечают, что на фоне стремительного прогресса в сфере искусственного интеллекта дискуссии о регулировании, этических принципах и механизмах безопасности приобретают все более актуальный характер.
Другие новости раздела
