Илон Маск вместе с группой экспертов по ИИ призвал запретить обучение мощных нейронных сетей из-за потенциальной угрозы, которую они представляют для человечества. Это требование прозвучало в открытом письме на сайте некоммерческого института Future of Life Institute.
Эксперты призвали лаборатории ИИ прекратить обучение систем ИИ, более продвинутых, чем GPT-4, минимум на шесть месяцев. Если они откажутся это сделать, правительства должны вмешаться и наложить мораторий, чтобы предотвратить потерю контроля в этой области.
Во время шестимесячной паузы эксперты рекомендуют разработать общие протоколы безопасности для проектирования и разработки передовых систем ИИ, которые могут быть подвергнуты проверкам и надзору со стороны независимых внешних экспертов. Также было предложено создать новые регуляторы ИИ и системы государственного надзора для обеспечения безопасности новых систем.
Под открытым письмом подписались Стив Возняк, сооснователь компании Apple, ведущие эксперты в области ИИ Стивен Рассел и Джошуа Бенгио, а также более 1100 экспертов в области ИТ и машинного обучения.
GPT-4 — это последняя версия модели нейронной сети для больших языков, разработанная Open AI. По сравнению со своей предшественницей GPT-3.5 она обладает рядом улучшений, таких как способность понимать сложные запросы, обрабатывать до 25 000 слов и интерпретировать изображения в качестве входных данных. Он также обладает высокой степенью управляемости, безопасности и согласованности.
Эксперты предупреждают, что ИИ развивается так быстро, что у предприятий, сообществ и правительств может не хватить времени, чтобы оценить уровень риска, создаваемого такими мощными нейронными сетями.
