Етика ШІ: Глобальний посібник з виявлення алгоритмічної упередженості

Штучний інтелект (ШІ) стрімко трансформує галузі та впливає на життя людей в усьому світі. Оскільки системи ШІ стають все більш поширеними, вкрай важливо забезпечити їхню справедливість, неупередженість та відповідність етичним принципам. Алгоритмічна упередженість, систематична і повторювана помилка в комп'ютерній системі, що створює несправедливі результати, є серйозною проблемою в етиці ШІ. Цей комплексний посібник розглядає джерела алгоритмічної упередженості, методи її виявлення та пом'якшення, а також стратегії для сприяння справедливості в системах ШІ в усьому світі.

Розуміння алгоритмічної упередженості

Алгоритмічна упередженість виникає, коли система ШІ створює результати, які є систематично менш сприятливими для певних груп людей, ніж для інших. Ця упередженість може виникати з різних джерел, включаючи упереджені дані, недосконалі алгоритми та упереджені інтерпретації результатів. Розуміння походження упередженості є першим кроком до створення більш справедливих систем ШІ.

Джерела алгоритмічної упередженості

• Упереджені навчальні дані: Дані, що використовуються для навчання моделей ШІ, часто відображають існуючі суспільні упередження. Якщо дані містять спотворені представлення певних груп, модель ШІ вивчить і увічнить ці упередження. Наприклад, якщо система розпізнавання облич навчається переважно на зображеннях однієї етнічної групи, вона може погано працювати з обличчями інших етнічних груп. Це має значні наслідки для правоохоронних органів, безпеки та інших застосувань. Розглянемо алгоритм COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), який, як було виявлено, непропорційно позначав темношкірих обвинувачених як таких, що мають вищий ризик рецидиву.
• Недосконалий дизайн алгоритму: Самі алгоритми можуть вносити упередженість, навіть із, здавалося б, неупередженими даними. Вибір ознак, архітектура моделі та критерії оптимізації можуть впливати на результати. Наприклад, якщо алгоритм значною мірою покладається на ознаки, які корелюють із захищеними характеристиками (наприклад, стать, раса), він може ненавмисно дискримінувати певні групи.
• Упереджене маркування даних: Процес маркування даних також може вносити упередженість. Якщо особи, що маркують дані, мають несвідомі упередження, вони можуть маркувати дані таким чином, що це відображатиме ці упередження. Наприклад, в аналізі тональності, якщо анотатори асоціюють певні мовні патерни з конкретними демографічними групами, модель може навчитися несправедливо класифікувати тональність, виражену цими групами.
• Петлі зворотного зв'язку: Системи ШІ можуть створювати петлі зворотного зв'язку, які посилюють існуючі упередження. Наприклад, якщо інструмент для підбору персоналу на основі ШІ упереджений проти жінок, він може рекомендувати менше жінок на співбесіди. Це може призвести до найму меншої кількості жінок, що, в свою чергу, посилює упередженість у навчальних даних.
• Брак різноманітності в командах розробників: Склад команд розробників ШІ може суттєво впливати на справедливість систем ШІ. Якщо командам бракує різноманітності, вони можуть з меншою ймовірністю виявити та усунути потенційні упередження, які можуть вплинути на недостатньо представлені групи.
• Контекстуальна упередженість: Контекст, у якому розгортається система ШІ, також може вносити упередженість. Алгоритм, навчений в одному культурному чи суспільному контексті, може не працювати справедливо при розгортанні в іншому. Культурні норми, мовні нюанси та історичні упередження можуть відігравати свою роль. Наприклад, чат-бот на базі ШІ, розроблений для обслуговування клієнтів в одній країні, може використовувати мову, яка вважається образливою або недоречною в іншій країні.

Методи виявлення алгоритмічної упередженості

Виявлення алгоритмічної упередженості є вирішальним для забезпечення справедливості в системах ШІ. Існують різні методи, які можна використовувати для виявлення упередженості на різних етапах життєвого циклу розробки ШІ.

Аудит даних

Аудит даних включає перевірку навчальних даних для виявлення потенційних джерел упередженості. Це включає аналіз розподілу ознак, виявлення відсутніх даних та перевірку на наявність спотворених представлень певних груп. Методи аудиту даних включають:

• Статистичний аналіз: Розрахунок зведеної статистики (наприклад, середнє значення, медіана, стандартне відхилення) для різних груп для виявлення розбіжностей.
• Візуалізація: Створення візуалізацій (наприклад, гістограм, діаграм розсіювання) для вивчення розподілу даних та виявлення викидів.
• Метрики упередженості: Використання метрик упередженості (наприклад, диспаратний вплив, різниця в рівних можливостях) для кількісної оцінки ступеня упередженості даних.

Наприклад, у моделі кредитного скорингу ви можете проаналізувати розподіл кредитних балів для різних демографічних груп, щоб виявити потенційні розбіжності. Якщо ви виявите, що певні групи в середньому мають значно нижчі кредитні бали, це може вказувати на упередженість даних.

Оцінка моделі

Оцінка моделі включає оцінку продуктивності моделі ШІ для різних груп людей. Це включає розрахунок метрик продуктивності (наприклад, точність, прецизійність, повнота, F1-score) окремо для кожної групи та порівняння результатів. Методи оцінки моделі включають:

• Метрики групової справедливості: Використання метрик групової справедливості (наприклад, демографічний паритет, рівність можливостей, прогностичний паритет) для кількісної оцінки ступеня справедливості моделі для різних груп. Демографічний паритет вимагає, щоб модель робила прогнози з однаковою частотою для всіх груп. Рівність можливостей вимагає, щоб модель мала однаковий показник істинно-позитивних результатів для всіх груп. Прогностичний паритет вимагає, щоб модель мала однакове позитивне прогностичне значення для всіх груп.
• Аналіз помилок: Аналіз типів помилок, які робить модель для різних груп, для виявлення закономірностей упередженості. Наприклад, якщо модель постійно неправильно класифікує зображення певної етнічної групи, це може вказувати на її упередженість.
• Змагальне тестування: Використання змагальних прикладів для перевірки стійкості моделі та виявлення вразливостей до упередженості. Змагальні приклади — це вхідні дані, призначені для того, щоб обдурити модель і змусити її робити неправильні прогнози.

Наприклад, в алгоритмі найму ви можете оцінити продуктивність моделі окремо для кандидатів чоловічої та жіночої статі. Якщо ви виявите, що модель має значно нижчу точність для кандидаток-жінок, це може вказувати на упередженість моделі.

Пояснювальний ШІ (XAI)

Методи пояснювального ШІ (XAI) можуть допомогти визначити ознаки, які найбільше впливають на прогнози моделі. Розуміючи, які ознаки керують рішеннями моделі, ви можете виявити потенційні джерела упередженості. Методи XAI включають:

• Важливість ознак: Визначення важливості кожної ознаки в прогнозах моделі.
• Значення SHAP: Розрахунок значень SHAP (SHapley Additive exPlanations) для пояснення внеску кожної ознаки в прогнози моделі для окремих випадків.
• LIME: Використання LIME (Local Interpretable Model-agnostic Explanations) для пояснення прогнозів моделі для окремих випадків шляхом створення локальної лінійної апроксимації моделі.

Наприклад, у моделі розгляду заявки на кредит ви можете використовувати методи XAI, щоб визначити ознаки, які найбільше впливають на рішення моделі схвалити або відхилити кредит. Якщо ви виявите, що ознаки, пов'язані з расою або етнічною приналежністю, мають великий вплив, це може вказувати на упередженість моделі.

Інструменти для аудиту справедливості

Існує кілька інструментів та бібліотек, які допомагають виявляти та пом'якшувати алгоритмічну упередженість. Ці інструменти часто надають реалізації різних метрик упередженості та технік пом'якшення.

• AI Fairness 360 (AIF360): Набір інструментів з відкритим вихідним кодом, розроблений IBM, який надає повний набір метрик та алгоритмів для виявлення та пом'якшення упередженості в системах ШІ.
• Fairlearn: Пакет Python, розроблений Microsoft, який надає інструменти для оцінки та покращення справедливості в моделях машинного навчання.
• Responsible AI Toolbox: Комплексний набір інструментів та ресурсів, розроблений Microsoft, щоб допомогти організаціям відповідально розробляти та впроваджувати системи ШІ.

Стратегії пом'якшення алгоритмічної упередженості

Після виявлення алгоритмічної упередженості важливо вжити заходів для її пом'якшення. Для зменшення упередженості в системах ШІ можна використовувати різні методи.

Попередня обробка даних

Попередня обробка даних включає модифікацію навчальних даних для зменшення упередженості. Методи попередньої обробки даних включають:

• Перезважування: Призначення різних ваг різним екземплярам у навчальних даних для компенсації спотворених представлень.
• Вибірка: Зменшення вибірки мажоритарного класу або збільшення вибірки міноритарного класу для збалансування даних.
• Аугментація даних: Створення нових синтетичних точок даних для збільшення представництва недостатньо представлених груп.
• Видалення упереджених ознак: Видалення ознак, які корелюють із захищеними характеристиками. Однак будьте обережні, оскільки, на перший погляд, нешкідливі ознаки все ще можуть опосередковано корелювати із захищеними атрибутами (проксі-змінні).

Наприклад, якщо навчальні дані містять менше прикладів жінок, ніж чоловіків, ви можете використовувати перезважування, щоб надати більшої ваги прикладам жінок. Або ви можете використовувати аугментацію даних для створення нових синтетичних прикладів жінок.

Модифікація алгоритму

Модифікація алгоритму включає зміну самого алгоритму для зменшення упередженості. Методи модифікації алгоритму включають:

• Обмеження справедливості: Додавання обмежень справедливості до цільової функції оптимізації для забезпечення відповідності моделі певним критеріям справедливості.
• Змагальне усунення упередженості: Навчання змагальної мережі для видалення упередженої інформації з представлень моделі.
• Регуляризація: Додавання членів регуляризації до функції втрат для штрафування за несправедливі прогнози.

Наприклад, ви можете додати обмеження справедливості до цільової функції оптимізації, яке вимагає, щоб модель мала однакову точність для всіх груп.

Постобробка

Постобробка включає модифікацію прогнозів моделі для зменшення упередженості. Методи постобробки включають:

• Коригування порогу: Коригування порогу класифікації для досягнення бажаної метрики справедливості.
• Калібрування: Калібрування ймовірностей моделі для забезпечення їхньої відповідності спостережуваним результатам.
• Класифікація з можливістю відмови: Додавання опції "відхилити" для граничних випадків, коли модель не впевнена у своєму прогнозі.

Наприклад, ви можете скоригувати поріг класифікації, щоб забезпечити однаковий показник хибно-позитивних результатів для всіх груп.

Сприяння справедливості в системах ШІ: Глобальна перспектива

Створення справедливих систем ШІ вимагає багатогранного підходу, який включає не тільки технічні рішення, а й етичні міркування, політичні рамки та організаційні практики.

Етичні настанови та принципи

Різні організації та уряди розробили етичні настанови та принципи для розробки та впровадження ШІ. Ці настанови часто підкреслюють важливість справедливості, прозорості, підзвітності та людського нагляду.

• Асиломарські принципи ШІ: Набір принципів, розроблених дослідниками та експертами в галузі ШІ для керівництва відповідальною розробкою та використанням ШІ.
• Етичні настанови для надійного ШІ Європейського Союзу: Набір настанов, розроблених Європейською комісією для сприяння розробці та використанню надійного ШІ.
• Рекомендація ЮНЕСКО з етики штучного інтелекту: Глобальна рамкова програма для керівництва відповідальною розробкою та використанням ШІ, що забезпечує його користь для всього людства.

Управління та регулювання ШІ

Уряди все частіше розглядають нормативні акти для забезпечення відповідальної розробки та впровадження систем ШІ. Ці нормативні акти можуть включати вимоги до аудиту упередженості, звітів про прозорість та механізмів підзвітності.

• Закон ЄС про ШІ: Запропонований регламент, який має на меті створити правову базу для ШІ в Європейському Союзі, розглядаючи такі питання, як оцінка ризиків, прозорість та підзвітність.
• Закон про алгоритмічну підзвітність 2022 року (США): Законодавство, спрямоване на зобов'язання компаній оцінювати та пом'якшувати потенційну шкоду від автоматизованих систем прийняття рішень.

Організаційні практики

Організації можуть впроваджувати різні практики для сприяння справедливості в системах ШІ:

• Різноманітні команди розробників: Забезпечення різноманітності команд розробників ШІ за статтю, расою, етнічною приналежністю та іншими характеристиками.
• Залучення зацікавлених сторін: Взаємодія із зацікавленими сторонами (наприклад, постраждалими спільнотами, організаціями громадянського суспільства) для розуміння їхніх проблем та врахування їхніх відгуків у процесі розробки ШІ.
• Прозорість та пояснюваність: Зробити системи ШІ більш прозорими та зрозумілими для побудови довіри та підзвітності.
• Постійний моніторинг та оцінка: Постійний моніторинг та оцінка систем ШІ для виявлення та усунення потенційних упереджень.
• Створення рад з етики ШІ: Формування внутрішніх або зовнішніх комітетів для нагляду за етичними наслідками розробки та впровадження ШІ.

Глобальні приклади та кейси

Розуміння реальних прикладів алгоритмічної упередженості та стратегій її пом'якшення є вирішальним для створення більш справедливих систем ШІ. Ось кілька прикладів з усього світу:

• Охорона здоров'я в США: Алгоритм, що використовувався в американських лікарнях для прогнозування, яким пацієнтам знадобиться додаткова медична допомога, виявився упередженим щодо темношкірих пацієнтів. Алгоритм використовував витрати на охорону здоров'я як проксі для потреби, але темношкірі пацієнти історично мають менший доступ до медичної допомоги, що призводить до нижчих витрат і недооцінки їхніх потреб. (Obermeyer et al., 2019)
• Кримінальне правосуддя в США: Алгоритм COMPAS, що використовувався для оцінки ризику рецидиву для обвинувачених у кримінальних справах, виявився таким, що непропорційно позначав темношкірих обвинувачених як таких, що мають вищий ризик, навіть коли вони не скоювали повторних злочинів. (Angwin et al., 2016)
• Рекрутинг у Великій Британії: Amazon відмовилася від свого інструменту для підбору персоналу на базі ШІ після того, як виявила, що система упереджена щодо жінок. Система навчалася на історичних даних про найм, які переважно містили кандидатів-чоловіків, що змусило ШІ карати резюме, які містили слово "жіночий".
• Розпізнавання облич у Китаї: Були висловлені занепокоєння щодо потенційної упередженості в системах розпізнавання облич, які використовуються для спостереження та соціального контролю в Китаї, особливо щодо етнічних меншин.
• Кредитний скоринг в Індії: Використання альтернативних джерел даних у моделях кредитного скорингу в Індії може призвести до упередженості, якщо ці джерела даних відображають існуючі соціально-економічні нерівності.

Майбутнє етики ШІ та виявлення упередженості

Оскільки ШІ продовжує розвиватися, сфера етики ШІ та виявлення упередженості стане ще важливішою. Майбутні дослідження та розробки мають бути зосереджені на:

• Розробці більш надійних та точних методів виявлення упередженості.
• Створенні більш ефективних стратегій пом'якшення упередженості.
• Сприянні міждисциплінарній співпраці між дослідниками ШІ, етиками, політиками та соціологами.
• Встановленні глобальних стандартів та найкращих практик для етики ШІ.
• Розробці освітніх ресурсів для підвищення обізнаності про етику ШІ та упередженість серед практиків ШІ та широкої громадськості.

Висновок

Алгоритмічна упередженість є значним викликом в етиці ШІ, але вона не є непереборною. Розуміючи джерела упередженості, використовуючи ефективні методи виявлення та пом'якшення, а також сприяючи етичним настановам та організаційним практикам, ми можемо створити більш справедливі та рівноправні системи ШІ, які принесуть користь усьому людству. Це вимагає глобальних зусиль, що включають співпрацю між дослідниками, політиками, лідерами галузі та громадськістю, щоб забезпечити відповідальну розробку та впровадження ШІ.

Посилання:

• Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica.
• Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453.