Большинство из нас уже составило определенное представление о таком явлении современного мира как искусственный интеллект. Также мы интуитивно понимаем этику как процесс личного выбора, согласующийся с нашим собственным определением "добра". Однако что происходит, когда мы применяем нравственную оптику к искусственному интеллекту? И почему это не просто увлекательное упражнение для фантастов, а насущная потребность?
Начнём с определений.
Что такое искусственный интеллект (ИИ)?
Простыми словами, искусственный интеллект – это способ заставить компьютер или программное обеспечение «мыслить» как человеческий мозг. Однако часто, когда мы говорим об ИИ, нам приходят в голову киношные образы: сознательные существа типа Вижена из Marvel или Авы из “Ex Machina”. Такой тип искусственного интеллекта называют общим искусственным интеллектом – он олицетворяет идею о том, что однажды машины приобретут интеллект, ровный или выше человеческого. Однако если это когда-нибудь и станет реальностью, то в очень далеком будущем. Сегодня же это только плоды литературного и кинематографического воображения. Современный ИИ гораздо прозаичнее. Вы пользовались Instagram, YouTube, Netflix или разблокировали телефон лицом – значит, сталкивались с искусственным интеллектом.
Мы взаимодействуем с ИИ, фильтруя спам, добавляя эффекты к сторисам, получая новости по интересам. ИИ все более активно применяется в медицине, праве, финансах, трудоустройстве и образовании: от предварительной диагностики болезней до определения необходимости залога.
Искусственный интеллект активно трансформирует и сферу страхования жизни и здоровья.
Вот несколько примеров:
- Персонализированные предложения и ценообразование
Многие страховые компании используют ИИ для анализа больших объемов данных о клиентах, их поведении и истории обращений. Это позволяет создавать персонализированные предложения страховых продуктов, более точно отвечающих потребностям каждого клиента. Кроме того, ИИ помогает в динамичном ценообразовании, учитывая индивидуальные риски и предлагая более справедливые тарифы. - Быстрая обработка и оценка страховых выплат
ИИ значительно ускоряет и упрощает процесс обработки страховых выплат. С помощью алгоритмов машинного обучения можно автоматически оценивать ущерб, анализировать медицинские документы и принимать решения о выплатах. Это позволяет сократить время ожидания клиентами и повысить их удовлетворенность сервисом. - Прогнозирование рисков и предотвращение мошенничества
ШИ позволяет страховым компаниям более точно прогнозировать будущие риски, анализируя большие объемы данных о клиентах, рынках и внешних факторах. Это помогает разрабатывать эффективные стратегии управления рисками и предотвращать мошенничество. Алгоритмы машинного обучения могут выявлять подозрительные выплаты, анализируя паттерны поведения, которые могут указывать на мошеннические действия. - Чат-боты для обслуживания клиентов
Чат-боты на основе ИИ стали неотъемлемой частью обслуживания клиентов в страховых компаниях. Они могут отвечать на часто задаваемые вопросы, помогать клиентам найти необходимую информацию, оформлять полисы и подавать заявки на выплаты. Это позволяет снизить нагрузку на сотрудников Контакт-центров и обеспечить клиентов круглосуточной поддержкой. - Анализ медицинских изображений
ШИ используется для анализа медицинских изображений, таких как рентгенограмма, МРТ и КТ. Алгоритмы машинного обучения могут выявлять признаки заболеваний на ранних стадиях, что позволяет врачам поставить более точный диагноз и назначить эффективное лечение. Это также помогает страховым компаниям оценивать риски и разрабатывать персональные программы профилактики.
Почему же нравственный аспект ИИ настолько важен?
Интересно, что этика технологий – не новое явление и применяется не только для ИИ. Исторически человечество имеет тенденцию создавать технологии, преодолевая свои сознательные и бессознательные предубеждения, последствия которых проявлялись позже. Яркий пример – ремень безопасности. До 2011 года женщины имели на 47% больше шансов получить серьезные травмы в автокатастрофе, поскольку краш-тесты проводились только на мужских манекенах. Это не было чьим-то злым намерением, а скорее следствием разработки новой технологии теми, кто ее создавал.
Как показывает этот пример, мы воспроизводим собственные предубеждения в мыслях и действиях, в то время как системные предубеждения вокруг нас влияют на разработку продуктов, даже если мы этого не хотим. Машинная учеба, используемая при работе с ИИ, особенно уязвима к этому из-за обучения на уже существующих шаблонах и поведении, что может приводить к предвзятым и вредным прогнозам, если их не осознавать и не корректировать.
Этика искусственного интеллекта – это понимание взаимодействия систем ИИ с миром и создание инклюзивных, безопасных, конфиденциальных и ответственных технологий.
В чем основные вызовы использования искусственного интеллекта?
Один из самых опасных аспектов ИИ состоит в том, что эта технология может делать выводы или давать советы, не имея возможности "объяснить" процесс принятия решения. Иными словами, нам придется либо доверять ИИ, что является достаточно рискованным шагом, либо находить способы, как минимизировать риск ошибок.
Например, можно использовать более простые модели, логику которых можно объяснить. Этот подход сейчас используют в том числе и в страховой отрасли.
Другой путь лежит в дизайне продукта. Важно, чтобы все продукты на основе ИИ предоставляли пользователям информацию и контроль. Например, если модель ошибается, может ли пользователь предоставить обратную связь или каким-либо образом повлиять на ситуацию?
Не стоит также забывать, что исследования и разработка в области ИИ очень дорогие. Как сохранить технологию относительно справедливой, чтобы ее не использовали только для удовлетворения прихотей миллиардеров? А что с конечным потребителем – не усугубит ли доступ к продуктам ИИ разрыв в возможностях между социальными классами?
Но поскольку большая часть исследований и разработок в области ИИ будет продолжать сосредотачиваться в крупных организациях с большими ресурсами, критически важно, чтобы эти организации повышали собственное разнообразие и активно взаимодействовали с общинами, на которые влияет технология. Только с участием представителей разных жизненных опытов можно учесть и создавать продукты для этих опытов.
Одной из проблем остается доступность. Сегодня 37,5% населения мира все еще не имеют постоянного доступа в Интернет, более половины (52%) из них – это женщины. По мере того, как ИИ открывает новые возможности, этот разрыв становится еще более заметными. Поэтому технологической отрасли следует сосредоточиться не только на разработке более мощных технологий ИИ, но и на том, как масштабировать эти технологии для решения потребностей, сценариев использования и доступа для общин по всему миру.
Человек и ИИ: конкуренция или симбиоз?
Реальность такова, что машины учатся на шаблонах и эти машины ошибаются. Часто эти шаблоны обобщаются таким образом, что машины становятся полезными. Но мир не всегда ведет себя предсказуемо (особенно по набору учебных данных, которые могут не представлять весь мир), и способность творчески решать проблемы остается исключительно человеческой особенностью.
Часто, несмотря на способность модели хорошо прогнозировать задачи, мы все равно хотим, чтобы человек контролировал окончательное решение, чтобы гарантировать, что человеческий нюанс и суждение все еще являются частью процесса, особенно когда модель ошибается.
Например, вместо замены врача искусственным интеллектом, прогнозирующим диагноз по набору симптомов, более жизнеспособным, надежным и желаемым результатом является предоставление врачу предложений, которые могут повысить эффективность его работы, сохраняя при этом контроль человека, имеющего критический опыт и тонкое понимание того, как симптомы проявляются у разных пациентов, которая может предоставить пациенту личную встречу для обсуждения и решения его состояния.
Поэтому, размышляя о роли искусственного интеллекта в будущем страховой отрасли, можно с уверенностью сказать, что ни один ИИ не заменит эмпатийное человеческое общение и критическое мышление ни через пять, ни через десять лет. А вот помочь финансовому консультанту, андеррайтеру, актуарию, работнику Контакт-центра ускорить их работу и, соответственно, качество сервиса – вполне реально!
