Этика ИИ (AI Ethics) — научная и практическая область, исследующая моральные аспекты разработки и применения систем машинного обучения. В 2023 году Goldman Sachs оценил, что автоматизация может затронуть 300 млн рабочих мест. Одновременно системы ИИ принимают всё больше решений, ранее принадлежавших людям.
Bias в данных и моделях
Модели обучаются на исторических данных, содержащих человеческие предубеждения. Системы оценки кредитоспособности, рекрутинга, прогнозирования рецидива преступлений показали систематическую дискриминацию по расовому, гендерному и социальному признакам. Метрики справедливости (fairness metrics): demographic parity (равный процент положительных решений), equalized odds (равная чувствительность и специфичность по группам).
Deepfakes и дезинформация
Generative AI позволяет создавать реалистичные видео и фото с несуществующими событиями. Политические deepfakes, порнографические deepfakes с реальными людьми, синтетические голоса для мошенничества. Детекция deepfakes — гонка вооружений: системы распознавания отстают от генерации.
Авторское право
Иски: NYT vs OpenAI (миллиарды статей без разрешения), Getty Images vs Stability AI. Вопрос: является ли обучение на авторском контенте fair use? Судебная практика формируется. ЕС AI Act требует раскрывать обучающие данные.
Практические рекомендации
Model cards (Mitchell, 2019) — стандарт документации модели с указанием ограничений и рисков. Red teaming — намеренная проверка на вредоносное использование. Audits — независимая проверка алгоритмов на дискриминацию.