НОВОСТИ   ТОП   ТЕМЫ   ВИДЕО   СЕГОДНЯ 
НОВОСТИ / 2022 / 01 / 21 / СОВЕТ ФЕДЕРАЦИИ ХОЧЕТ ОБЕЗОПАСИТЬ ГРАЖДАН ОТ ДИСКРИМИНАЦИИ СО СТОРОНЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Совет Федерации хочет обезопасить граждан от дискриминации со стороны искусственного интеллекта

22:04 21.01.2022 - BFM

,

Однако среди предпринимателей, которые уже активно применяют в своей работе различные алгоритмы, нет единства мнений о необходимости какого-то госрегулирования в этой плоскости. Вопрос о цифре оказался скорее философским-> if(window.Ya && window.Ya.adfoxCode) { window.Ya.adfoxCode.createAdaptive({ ownerId: 265431, containerId: 'bn6_642979285', params: { pp: 'g', ps: 'craw', p2: 'fvdg', pk: 'война авария происшествие', pke: '1' } }, ["tablet"], { tabletWidth: 999, phoneWidth: 767, isAutoReloads: false }); } Сенаторы поручили Минцифры, Минздраву и Минэкономики разработать меры, исключающие дискриминацию человека при использовании искусственного интеллекта, и утвердить "дорожную карту" по этому направлению до конца 2022 года.

Пока что в Совфеде не уточнили что именно подразумевается под дискриминацией граждан со стороны ИИ. Но очевидно, что пространства для фантазии тут предостаточно. Камеры, фиксирующие нарушения водителей в случаях, когда штрафы получали владельцы легковых машин, которые перемещались на эвакуаторах, - это дискриминация? Почему нет? Скоринговые системы банков - алгоритм решает кому дать кредит, а кому нет - дискриминация? А громкий кейс с компанией Xsolla, из которой на основании анализа алгоритмами в прошлом году уволили 150 человек?

Примеров много. Самый простой и распространенный, с которыми почти каждый сталкивается ежедневно, - соцсети с их таргетированной рекламой, напоминает президент компаний InfoWatch Наталья Касперская:

->

Наталья Касперская президент группы компаний InfoWatch "Цифровые платформы используют алгоритмы искусственного интеллекта, обучают их на больших данных пользователей и навязывают рекламу или на основании этих знаний проводят политическую пропаганду. То есть, это типичная манипуляция".

А ведь реклама - это самое безобидное в этом ключе. Человеку можно навязать не только желание что-то купить, но и повлиять на его убеждения. Основатель и президент SuperJob Алексей Захаров относится к этой проблеме спокойнее. В HR алгоритмы уже могут оценивать, насколько резюме кандидатов соответствует таким признакам, как средняя продолжительность работы на одном месте на всем протяжении карьеры, разницу между требуемым опытом вакансии и опытом из резюме, попадание желаемой зарплаты резюме в зарплатную вилку вакансии и многое другое. И все, что можно будет доверить цифре, доверят, уверен Захаров:

Алексей Захаров основатель и президент SuperJob "То, что можно легко алгоритмизировать, то поддается современному искусственному интеллекту. Соответственно, бухгалтерия уже практически исчезла и исчезнет в ближайшее время совсем. Вождение автомобиля - это тоже алгоритм. В ближайшее время, людей, которые не поддаются алгоритмам, перестанут пускать за рулем на улицы, а машины правила не нарушают и будут себе спокойно ездить. Диагнозы по инсультам: доктор наук ошибается в 50% случаев, а алгоритм уже лет десять ошибается в 1% случаев. Соответственно, какие-то такие истории тоже отдаются на откуп алгоритмам".

Надо сказать, что Алексей Захаров вообще не считает уместным использование самого термина ИИ. Его позиция в том, что алгоритм - это помощник. Он не принимает решений сам. Хотя многие готовы с этим поспорить - взять тот же скорринг.

Или что сказать человеку, которого не взяли на работу, потому что нейросети чем-то не угодила его страничка в Facebook?

А по поводу беспилотных машин - так они тоже ошибаются и этический вопрос - выпускать ли их на дороги - все еще не решен. А кто знает куда дотянутся цифровые щупальца алгоритмов в ближайшем будущем. Если сегодня машина определяет, дать кредит человеку или нет, почему завтра ей не проверить результаты ЕГЭ. И смотреть на это можно по-разному - с одной стороны алгоритмизировать этот процесс ничего не стоит. С другой - это же реально судьба человека. И разговор с экзаменатором по своей ценности не стоит на одной полке с механической оценкой того, поставил ли школьник "плюс" перед знаком бесконечность. Человеку можно объяснить, что тут априори имелось в виду, что бесконечность положительная. Машине - нет: нет знака - есть ошибка.

Еще один важный аспект - это то, что алгоритмы пишут люди. И от людей зависит то, как будет работать ИИ. Но и здесь есть обратная сторона. Если ошибку допустил ИИ - обратной связи с ним нет практически никакой, и ты ничего не докажешь. Это очень хорошо известно тем, кто хоть раз пытался исправить какую-то неточность в своих данных на госуслугах, неделями переписываясь или разговаривая с электронными помощниками, или пробовал оспорить несправедливо выписанный штраф с камеры.

Добавить BFM.ru в ваши источники новостей?


->


ПРОСМОТРОВ: 107
 29/05/2022   info@idtech.biz   Мы на Facebook и ВКонтакте.
Все права на материалы принадлежат их авторам и источникам, указанным под заголовками новостей.
Рейтинг@Mail.ru RSS