Эксперты призывают к созданию международного агентства по искусственному интеллекту

78
Команда iStatist

Разговоры о том, что нейросети надо регулировать на законодательном уровне, велись уже давно. Однако именно с ростом популярности чат-бота GPT эта тема стала как никогда актуальной. Свое мнение о том, как управлять искусственным интеллектом высказали эксперты в области ИИ Гэри Маркус и Анка Руэль.

Фото: The Economist

Для справки: Гэри Маркус является почетным профессором Нью-Йоркского университета и был основателем и генеральным директором Geometric Intelligence, компании по машинному обучению, приобретенной Uber. Анка Руэль — аспирант в области компьютерных наук в Стэнфордском университете и член-основатель KIRA, аналитического центра, занимающегося продвижением ответственного ИИ.

Новые инструменты генеративного искусственного интеллекта, такие как ChatGPT от Openai, получают все большую популярность и применяются во многих отраслях науки и экономики. Такое стремительное распространение, по мнению экспертов может привести к «дезинформации и полной утрате доверия».

Одной из проблем систем искусственного интеллекта невозможность их контролировать. Например, ChatGPT может давать ложные утверждения, что чревато серьезными проблемами. Особенно, если к чат-боту обратились по поводу вопросов, связанных с медициной.

Хотя многие страны принимают регулирующие акты относительно применения искусственного интеллекта, в глобальной координации все еще наблюдается недостаток. Пока одни правительства пытаются взять под контроль ИИ, другие предпочитают не замечать нарастающие проблемы.

Компании также сталкиваются с проблемой при работе с ИИ в разных юрисдикциях, из-за чего создаются дублирующие системы, происходит хаос.

Опрос Центра управления ИИ показал, что 91% людей из 11 стран согласны с тем, что искусственный интеллект должен быть тщательно регулируем на законодательном уровне. Причем как со стороны отдельных государств, так и на глобальном уровне. А это требует огромной координации усилий со стороны правительств, компаний и научных сообществ.

Гэри Маркус и Анка Руэль предлагают создать Международное агентство по искусственному интеллекту (IAAI), целью которого станет контроль и дальнейшее продвижение ИИ.

Агентством должны руководить как правительства разных стран, так и крупные технологические компании, некоммерческие организации и научные сообщества.

Надо отметить, что идея Гэри Маркуса и Анки Руэль о создании международного агентства не нова.

Ранее генеральный директор Google, Сундар Пичаи, уже заявил о его необходимости. По его мнению, организация должна заниматься глобальным управлением, технологическими инновациями в области ИИ, а также контролем за соблюдением норм и правил.

IAAI также может заниматься борьбой с дезинформацией, которой в настоящее время не может противостоять даже современная технология. Организация должна разработать инструменты для автоматизации процессов обнаружения и борьбы с дезинформацией.

Кроме того, специалистам IAAI придется заняться разработкой систем безопасности нейросетей и повышением их прозрачности. Сейчас безопасность и защита персональных данных находится на очень низком уровне. В сеть уже попали личные сведения пользователей чат-бота GPT, в том числе и платежная информация (к примеру, часть номера банковской карты)

Создание международного агентства позволит улучшить обмен знаниями в области искусственного интеллекта. Оно станет местом, где ученые, эксперты и разработчики из разных стран могут встречаться, обсуждать текущие проблемы и сотрудничать над разработкой эффективных решений.

При этом, стоит заметить, что любое решение в области искусственного интеллекта должно учитывать различия в культурах и ценностях разных стран. Поэтому конкретные модели управления и регулирования могут отличаться в зависимости от региона. Но именно глобальное сотрудничество и обмен информацией помогут создать универсальные принципы и рекомендации, которые будут применимы в любом уголке мира.

5340cookie-checkЭксперты призывают к созданию международного агентства по искусственному интеллекту