ИЛОН МАСК ПРОСИТ ОСТАНОВИТЬ РАЗРАБОТКУ ИИ НА ПОЛГОДА
Илон Маск, Стив Возняк и тысячи экспертов призвали на полгода приостановить обучение систем искусственного интеллекта более мощных, чем GPT-4, чтобы понять, как их контролировать.
«Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — задаются вопросом авторы письма.
В открытом письме (futureoflife.org/open-letter/pause-giant-ai-experiments) подчеркивается, что сегодня даже создатели современных самообучающихся нейросетей не в состоянии полностью понять их и надежно контролировать. При этом системы ИИ (Искусственного Интеллекта) уже конкурируют с людьми в решении общих задач и способны быстро наводнять СМИ и соцсети убедительными фейками.
Профессор Нью-Йоркского университета Гэри Маркус высказал опасение, что крупные компании-разработчики ИИ становятся все более скрытными в отношении того, что они делают и «это осложняет защиту общества от потенциального вреда».
Ранее, 27 марта, Европол (полиция ЕС) предупредила о потенциальном использовании #ChatGPT и подобных ему открытых ИИ для целей фишинга, обмана и киберпреступности.
Тем не менее, обсуждая письмо, эксперты сходятся во мнении, что ИИ не приведёт к массовой безработице в ближайшие годы. Однако представителям многих профессий для сохранения конкурентноспособности придётся освоить работу с ИИ так же, как однажды пришлось освоить компьютер или смартфон. Основные проблемы ожидаются в использовании ИИ для мошенничества (массовая подделка голоса, видеозаписей, документов, распространение паники в обществе посредством фейковых новостей, моментальный поиск уязвимостей хакерами).
К письму приложены принципы организации этичного ИИ: futureoflife.org/open-letter/ai-principles-russian.
#ЕСМнение
