OpenAI Обязывается выделить $2 миллионов на исследование безопасности ИИ для детей
OpenAI объявила о своем обязательстве в размере $2 миллионов поддержать исследования в области искусственного интеллекта (ИИ) и его влияния на безопасность и благополучие детей. Это обещание было сделано во время Парижского мирного форума, где OpenAI подписала Хартия сотрудничества за безопасный ИИ для детей. Эта инициатива является частью более широких усилий по установлению глобальных стандартов безопасности ИИ для молодежи и содействию сотрудничеству между государствами, исследователями, гражданским обществом и заинтересованными сторонами промышленности.
Фокус на измерении рисков и возможностей
Финансирование поддержит научную исследовательскую сеть под эгидой Коалиции за права и защиту детей в эпоху ИИ. Вклад OpenAI направлен на разработку общих инструментов, которые исследователи смогут использовать для измерения рисков и возможностей ИИ для молодежи. Эти инструменты призваны информировать создание более безопасных продуктов ИИ и более эффективных политических рамок.
Хартия сотрудничества определяет принципы для безопасного, подходящего по возрасту ИИ, наряду с исследовательской программой, которая гарантирует независимость выводов. Исследовательские группы сохранят контроль над своими заключениями, при этом все результаты—положительные, отрицательные или неопределенные—будут опубликованы для содействия прозрачности и подотчетности.
Создание доказательств для безопасного ИИ
Эта инициатива основывается на предыдущих усилиях OpenAI по обеспечению комплексной законодательной безопасности ИИ для молодежи. Организация призвала к разработке структуры, которая включает в себя соответствующие возрасту механизмы защиты, инструменты для родителей, регулярные оценки рисков и значимые меры подотчетности. OpenAI подчеркнула свою приверженность сотрудничеству с европейскими законодателями по Закону о детях ЕС и взаимодействию с глобальными партнерами для повышения уровня защиты и возможностей для молодежи.
Поддерживая это исследование, OpenAI стремится решить двойную задачу максимизации преимуществ ИИ для детей, одновременно mitigating risks to their safety and development. Ожидается, что результаты будут способствовать разработке практических мер безопасности и основанных на фактических данных политик, которые приоритизируют права и благополучие детей в эпоху ИИ.