Интервью AI News — о гендерном разрыве, правилах для распознавания лиц и том, почему генеративный ИИ должен лишь усиливать человека
Профессор Дама Венди Холл — регийский профессор информатики и одна из самых влиятельных фигур в этике ИИ — говорит прямо: индустрия по-прежнему мужская, а значит, в разработке «умных» систем не хватает разных голосов и взглядов. По её словам, ИИ — это социотехническая система, которой нужны не только инженеры, но и юристы, философы, психологи и представители сообществ, включая людей с ограниченными возможностями. Без этого «разнообразия по сути» говорить об этичности нельзя.
Холл призывает бизнес использовать ИИ ответственно: прежде всего — ввести понятные правила для распознавания лиц и других «скользких» технологий, где выгоды соседствуют с рисками для приватности и прав. Критерий простой: максимизировать общественную пользу и минимизировать вред, принимая регуляторные и организационные меры до массового внедрения.
Отдельный блок — о генеративных моделях: хайп вокруг ChatGPT не должен вводить в заблуждение, подчёркивает Холл. Модели не разумны, они статистически предсказывают следующее слово, подвержены предвзятостям и «галлюцинациям», поэтому их место — в команде с человеком, как инструмент ускорения письма, анализа и креатива, но не как автономный «заменитель» экспертов.
В прогнозе на ближайшие годы Холл видит ИИ как участника принятия решений — от медицины и права до образования, — но только при сохранении человеческого контроля и прозрачности. Тогда, говорит она, технологии действительно могут повысить продуктивность и даже сократить рабочую неделю, оставив людям больше времени на то, что машины не умеют — эмпатию, суждение и ответственность.
Об авторе
