Создатели чат-бота ChatGPT из компании OpenAI сообщили о своих планах сформировать команду специалистов по контролю за суперинтеллектом.
Работники OpenAI считают, что суперинтеллект, превосходящий человеческий разум, окажется безумно важной технологией и поможет решить многие проблемы. Однако он также несёт угрозу обществу и даже может уничтожить человечество.
По оценкам экспертов, первый суперинтеллект появится в течение ближайших 10 лет, поэтому уже сейчас нужно придумать методы снижения рисков. Именно этим будет заниматься команда работников OpenAI под руководством главного научного сотрудника фирмы Ильи Суцкевера и Яна Лейке, возглавляющего отдел согласования.
Илья Суцкевер
В числе рядовых членов группы по контролю за суперинтеллектом окажутся исследователи и инженеры. Они получат доступ к 20% вычислительной мощности устройств OpenAI, чтобы решить проблему, связанную с возможным восстанием искусственного разума. Работу планируют завершить в течение четырёх лет.
Очевидно, что суперинтеллект может стать опасным только в процессе самостоятельной тренировки. В связи с этим способ устранения угрозы, скорее всего, найдут эксперты в области машинного обучения.
(1 оценок, среднее: 5,00 из 5)
Загрузка...
Криптоинвестор с 2012 года, как и многие верил в светлое будущее биткоина, но после дампа в 2018-м потерпел убытки и заинтересовался эфиром. С тех пор торговля ETH стала для меня увлекательным хобби.
