Где у него кнопка: почему эксперты просят приостановить обучение передового ИИ

Более тысячи известных исследователей, топ-менеджеров и основателей IT-компаний, включая Илона Маска и Стива Возняка, призывают приостановить обучение мощного искусственного интеллекта хотя бы на полгода. По их мнению, спешное обучение нейросетей несет в себе риски для человечества, поэтому нужно убедиться в позитивных последствиях развития ИИ и разработать общие протоколы безопасности. Пресс-секретарь президента Дмитрий Песков уже отреагировал на это призывом к регулированию этой сферы. Forbes узнал, что думают в российской IT-отрасли на этот счет

Роман Рожков

30 марта 2023

Поспешишь — AI насмешишь

«Системы искусственного интеллекта… могут представлять серьезные риски для общества и человечества. Продвинутый AI несет с собой глубокие изменения в жизни на Земле. В последние месяцы AI-лаборатории оказались втянуты в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать».

Так говорится в открытом письме ученых и исследователей с призывом приостановить разработку продвинутого ИИ до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности. Его уже подписали глава SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк, гендиректор Stability AI Эмад Мостак и более 1100 экспертов и руководителей отрасли по развитию ИИ. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в документе, разработанном Институтом будущего жизни (Future of Life Institute).

Письмо призывает все ИИ-лаборатории немедленно приостановить как минимум на шесть месяцев обучение систем искусственного интеллекта более мощных, чем новая языковая модель GPT-4 от OpenAI. Если же такую паузу нельзя взять быстро, то «правительства должны вмешаться и ввести мораторий», говорится в письме.

Материал по теме: Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4