С развитием искусственного интеллекта, человек начал задаваться вопросом: «А не придется ли потом воевать с ИИ и не поработит ли он всё человечество?». Пока такие вопросы кажутся риторическими, но ведь учеными уже доказано, что искусственный интеллект во множество раз умнее человеческого.
И это благо, что мировое сообщество начало предпринимать шаги во избежание катастрофы. Так, Европейская комиссия объявила о старте экспериментального проекта по практической реализации ряда принципов, которые должны будут соблюдаться компаниями и правительствами при разработке и использовании искусственного интеллекта.
Уже сейчас ИИ активно развивается, особенно на Западе и в Азии, и мы все больше интегрируем ИИ в такие сферы, как здравоохранение, образование и потребительские технологии.
В 2018 году была сформирована группа из 52 независимых экспертов, которые определили семь ключевых требований, которым, по их мнению, должны соответствовать будущие системы искусственного интеллекта:
- человеческое содействие и надзор: ИИ не должен рушить автономию человечества, манипулировать людьми или принуждать их к чему-либо, а люди, в свою очередь, должны иметь возможность вмешиваться и контролировать каждое решение, принимаемое программным обеспечением;
- техническая надёжность и безопасность: системы ИИ должны быть устойчивыми к внешним атакам;
- конфиденциальность и управление данными: персональные данные, используемые ИИ-системами, должны оставаться конфиденциальными;
- прозрачность: решения, принимаемые программным обеспечением, должны «пониматься и отслеживаться людьми»;
- разнообразие, недискриминация и справедливость: предоставляемые ИИ-системами услуги, должны быть доступны всем, независимо от возраста, пола, расы или других факторов;
- экологическое и социальное благополучие: системы искусственного интеллекта должны быть экологически ответственными и способствовать позитивным социальным изменениям;
- подотчетность: ИИ-системы должны быть защищены существующими средствами защиты корпоративной информации. О негативных воздействиях систем необходимо сообщать заранее.
Эти принципы могут способствовать появлению законодательной базы, созданной Европейским союзом. Также в рамках проекта был подготовлен список вопросов для «достоверной оценки искусственного интеллекта», которые могут помочь экспертам выяснить любые потенциальные слабые места или опасности в программном обеспечении, использующем алгоритмы ИИ.
Напомним, Google представила обновленную функцию умного ввода текста в почтовом сервисе Gmail.
Фото: Getty Images
