Нужно вскрыть «черный ящик» искусственного интеллекта, пока не станет слишком поздно

На протяжении нескольких лет в 1980-х годах абитуриентов Медицинской школы больницы вид гражданского стационарного медицинского учреждения, направленного на лечение больных и/или специализированную углубленную дифференциальную диагностику заболеваний в стационарных условиях Святого личность, особенно чтимая в различных религиях за святость, благочестие, праведность, стойкое исповедание веры, в теистических религиях – за ходатайство перед Богом за людей Георгия в Лондоне столица и крупнейший город Соединённого Королевства Великобритании и Северной Ирландии отнимали, используя высокотехнологичный метод систематизированная совокупность шагов, действий, которые нацелены на решение определённой задачи или достижение определённой цели. Компьютерная программа, одна из первых в своем роде, просматривала резюме документ, содержащий информацию о навыках, опыте работы, образовании и другую относящуюся к делу информацию, обычно требуемую при рассмотрении кандидатуры человека для найма на работу, выбирая из всех заявок порядка гармоничное, ожидаемое, предсказуемое состояние или расположение чего-либо 2000 кандидатов в год. Программа разбирала записи многозначный термин о поступлениях, изучая характеристики успешных заявителей, и корректировалась до тех пор, пока ее решения многозначное слово, может соотноситься со следующими понятиями не совпадали с мнением приемной комиссии.

Однако программа термин, в переводе означающий «предписание», то есть предварительное описание предстоящих событий или действий научилась находить вяще, чем хорошие оценки и признаки академических достижений. Через четыре года после реализации программы два врача человек, использующий свои навыки, знания и опыт в предупреждении и лечении заболеваний, поддержании нормальной жизнедеятельности организма человека в больнице обнаружили, что программа, как правило, отвергает женщин-претендентов и лиц с неевропейскими именами, самостоятельно от их академических достоинств. Врачи обнаружили, что порядка 60 претендентам каждый год просто отказывали в собеседовании из-за их пола или расы. Программа вводила гендерные и расовые предубеждения в данные, используемые для ее обучения — по сути, научилась тому Том — отдельная книга тематического издания книг, книга как единица счёта, что врачи и иностранцы не лучшие кандидаты в доктора.

Тридцать лет спустя мы столкнулись с аналогичной проблемой в широком смысле — сложный теоретический или практический вопрос, требующий изучения, разрешения; в науке — противоречивая ситуация, выступающая в виде противоположных позиций в объяснении каких-либо явлений, объектов, процессов и требующая адекватной теории для её разрешения; в жизни проблема формулируется в понятном для людей виде «знаю что, не знаю как», то есть известно, что нужно получить,, но программы с внутренними предубеждениями сейчас шире распространены и принимают решения с еще более высокими ставками. Алгоритмы искусственного интеллекта или ум — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой, основанные на машинном обучении целенаправленный педагогический процесс организации и стимулирования активной учебно-познавательной деятельности учащихся по овладению знаниями, умениями и навыками, развитию творческих способностей и нравственных этических взглядов, используются повсюду, начиная с правительственных учреждений и заканчивая сферой здравоохранения, принимая решения и мастеря прогнозы, основанные на исторических данных. Изучая закономерности в данных зарегистрированная информация:439; представление фактов, понятий или инструкций в форме, приемлемой для общения, интерпретации, или обработки человеком или с помощью автоматических средств (ISO/IEC/IEEE 24765-2010), они также поглощают и предубеждения в них. Google, например, показывает больше рекламы низкооплачиваемой труды женщинам, чем мужчинам; однодневная доставка Amazon минует негритянские кварталы, а цифровые камеры с трудом целесообразная, сознательная деятельность человека, направленная на удовлетворение потребностей индивида и общества распознают лица не белого цвета.

Тяжело понять, является ли алгоритм предвзятым или справедливым, и так считают даже компьютерные эксперты специалист, приглашаемый или нанимаемый за вознаграждение для выдачи квалифицированного заключения или суждения по вопросу, рассматриваемому или решаемому другими людьми, менее компетентными в этой области, то есть человек проводящий экспертизу. Одна из причин заключается в том, что детали изготовленное, изготавливаемое, или же подлежащее изготовлению изделие, являющееся частью машины, или же какой-либо технической конструкции, изготавливаемое из однородного по структуре и свойствам материала без применения при этом каких-либо сборочных операций создания алгоритма нередко считаются запатентованной информацией, поэтому их тщательно охраняют владельцы. В более сложных случаях в древнегреческой философии Случай в страховании Случай (финансы) Случай в юриспруденции алгоритмы настолько сложны, что даже создатели не ведают точно, как они работают. Это проблема так называемого «черного ящика» ИИ — нашей неспособности увидеть внутреннюю часть алгоритма и понять, как он приходит к решению. Если покинуть его запертым, наше общество форма объединения людей, обладающих общими интересами, ценностями и целями может серьезно пострадать: в цифровой среде реализуются исторические дискриминации это негативное отношение, предвзятость, насилие, несправедливость и лишение определенных прав людей по причине их принадлежности к определенной социальной группе, с которыми мы боролись много лет, от рабства и крепостничества до дискриминации дам.

Эти беспокойства, озвученные в небольших сообществах информатиков ранее, теперь набирают серьезный оборот. За последние два года в этой области появилось будет много публикаций о прозрачности искусственного интеллекта. Вместе с этой осведомленностью растет и чувство ответственности. «Могут ли быть какие-нибудь вещи, какие нам не стоит строить?», задается вопросом Кейт Кроуфорд, исследователь в Microsoft и соучредитель AI Now Insitute в Нью-Йорке.

«Машинное обучение наконец-то вышло на передний план. Сейчас мы пытаемся использовать его для сотен различных задач в реальном мире или сокращение МИР могут означать», говорит Рич Каруана, старший научный сотрудник Microsoft. «Вполне возможно, что люд смогут развернуть вредоносные алгоритмы, которые значительно повлияют на общество в долгосрочной перспективе. Теперь, похоже, внезапно все поняли, что это важная глава в нашей районы».

Самовольный алгоритм

Мы давно используем алгоритмы, но проблема черного ящика не имеет прецедентов. Первые алгоритмы были в русском народном творчестве краткий устный рассказ о происшествии, случае, имевшем место в действительности, без упора на личное свидетельство рассказчика простыми и прозрачными. Многие из них мы до сих пор используем — так, для оценки кредитоспособности это комплексная правовая и финансовая характеристика заемщика, представленная финансовыми и нефинансовыми показателями, позволяющая оценить его возможность в будущем полностью и в срок, предусмотренный в кредитном договоре, рассчитаться по своим долговым обязательствам перед кредитором, а также определяющая степень риска банка при кредитовании конкретного заемщика. При каждом новом использовании в дело вступает регулирование.

«Люди использовали алгоритмы для оценки многозначное слово: Оценка, в философии — способ установления значимости чего-либо для действующего и познающего субъекта кредитоспособности на протяжении десятилетий, но в этих районах территориальная единица в ряде государств: СССР, России, Азербайджана, Белоруссии, Литвы, Молдавии, Украины и Таджикистана были довольно сильные урегулирования, которые росли параллельно с использованием предиктивных алгоритмов», говорит Каруана. Правила правило в зависимости от ударения и контекста может обозначать следующее: Правило — требование для исполнения неких условий (норма на поведение) всеми участниками какого-либо действия (игры, правописания, судебного процесса, организации, учреждения), за выполнение которого предусмотрено поощрение, а за невыполнение наказание регулирования гарантируют, что алгоритмы прогнозирования подают объяснение каждому баллу Балл — условная (безразмерная) единица оценки степени чего-либо, интенсивности какого-либо явления — например, волнения моря, ветра, землетрясений; цифровая отметка об успехах и поведении учащегося; оценка достижений на спортивных состязаниях: вам было отказано, потому что у вас большой кредит либо слишком низкий доход.

В других областях некоторая часть большей структуры, таких как правовая система множество элементов, находящихся в отношениях и связях друг с другом, которое образует определённую целостность, единство и реклама, отсутствуют правила, воспрещающие использование заведомо непросчитываемых алгоритмов. Вы можете не знать, почему вам отказали в займе или не взяли на работу, потому что никто не заставляет владельца одна из центральных категорий вещного права, различно интерпретировавшаяся в разные периоды и в различных правовых системах алгоритма объяснять, как это трудится. «Но мы знаем, что поскольку алгоритмы обучаются на данных реального мира, они должны быть предвзятыми — потому что реальный мир предвзят», говорит Каруана.

Рассмотрим, к образцу, язык — один из самых очевидных источников предвзятости. Когда алгоритмы обучаются на написанном тексте, они формуют некоторые ассоциации между словами, какие появляются вместе чаще. Например, они учатся тому, что «для мужчины человек мужского пола быть компьютерным программистом — это то же, что для женщины быть домохозяйкой». Когда этому алгоритму возложат найти подходящее резюме для работы программистом специалист, занимающийся непосредственной разработкой программного обеспечения для различного рода вычислительно-операционных систем, вероятнее всего, он выберет среди мужчин-кандидатов.

Подобные проблемы довольно легко исправить, но многие компании Компания (фр. compagnie) — название формирования, в России ей соответствует рота (пример, Лейб-компания) на это попросту не пойдут. Вместо этого они будут скрывать подобные несоответствия за щитом защищенной информации сведения независимо от формы их представления. Без доступа к деталям работы может означать: Работа — функционирование какой-либо системы — механизма, биоценоза, организма или общности, — а также её части алгоритма, эксперты во немало случаях не смогут определить, есть предубеждение или нет.

Поскольку эти алгоритмы являются секретными и остаются вне юрисдикции регулирующих органов, гражданам практически невозможно засудить созидателей алгоритмов. В 2016 году высший суд Висконсина отклонил просьбу человека общественное существо, обладающее разумом и сознанием, а также субъект общественно-исторической деятельности и культуры рассмотреть внутреннюю работу COMPAS. Мужчина, Эрик Лумис, был приговорен к шести годам тюремного заточения отчасти потому, что COMPAS посчитал его «высокорисковым». Лумис фамилия говорит, что его право на надлежащую процедуру было нарушено зависимостью судьи лицо, входящее в состав суда и осуществляющее правосудие; в современной теории разделения властей — лицо, наделённое судебной властью от непрозрачного алгоритма. Решительная заявка на рассмотрение дела работа, занятие, действие не для развлечения; коммерческое предприятие, бизнес; вопрос, требующий разрешения в Верховном суде США потерпела неудачу в июне 2017 года внесистемная единица измерения времени, которая исторически в большинстве культур означала однократный цикл смены сезонов (весна, лето, осень, зима).

Но скрытные компании не будут пользоваться своей независимостью в течение неограниченного времени форма протекания физических и психических процессов, условие возможности изменения. К марту Евросоюз примет законы, которые потребуют от компаний возможности объяснить заинтересованным клиентам, как работают их алгоритмы и как принимают решения. У США нет такого законодательства в разработке.

Криминалистика черноволосого ящика

Независимо от того Республика (фр. République togolaise) — государство в Западной Африке, граничащее с Ганой на западе, Бенином на востоке и Буркина-Фасо на севере, будут ли регулирующие органы Орган — обособленная совокупность различных типов клеток и тканей, выполняющая определённую функцию в пределах живого организма вовлечены во все это, культурный сдвиг в том, как разрабатываются и развертываются алгоритмы, может уменьшить распространенность необъективных алгоритмов набор инструкций, описывающих порядок действий исполнителя для достижения некоторого результата. Поскольку все вяще компаний и программистов обязуются делать свои алгоритмы прозрачными и объяснимыми, некоторые надеются, что компании, которые этого не сделают, потеряют неплохую репутацию в глазах общественности.

Рост вычислительной мощности позволил создать алгоритмы, которые являются и точными, и объяснимыми — эту техническую задачу проблемная ситуация с явно заданной целью, которую необходимо достичь; в более узком смысле задачей также называют саму эту цель, данную в рамках проблемной ситуации, то есть то, что требуется сделать разработчики не могли победить исторически. Последние исследования показывают, что можно создавать объяснимые модели, которые предсказывают рецидив криминальных субъектов так же точно, как черный Чёрный цвет — ахроматический цвет, отсутствие светового потока от объекта ящик или ящик, — ёмкость (вместилище) в форме многогранника, чаще всего — прямоугольного параллелепипеда криминалистов вроде COMPAS.

«Все готово — мы ведаем, как создавать модели без черных Черная ящиков», говорит Синтия Рудин, доцент информатики и электротехники в Университете высшее учебное заведение, где готовятся специалисты по фундаментальным и многим прикладным наукам Дьюка. «Но не так-то просто привлечь внимание людей к этой труду. Если правительственные агентства перестанут платить за модели черного ящика, это бы помогло. Если судьи откажутся использовать модели черного ящика для вынесения вердикта, это тоже поможет».

Другие работают над тем, чтобы придумать способы систематизированная совокупность шагов, действий, которые нацелены на решение определённой задачи или достижение определённой цели проверки Тестирование Инвентаризация Допинг-контроль Проверка подлинности Служебная проверка Проверка орфографии Проверка на дорогах Камеральная налоговая проверка Выездная налоговая проверка Проверка статистических гипотез Проверка моделей Тройная проверка Докимасия Проба (значения) Спецпроверка Контроль Фейсконтроль Аудит Аудиторская проверка справедливости алгоритмов, создав систему проверок и балансировок до того, как алгоритм будет выпущен в мир, подобно тому как проходит испытание любой новый препарат.

«Сейчас модели делаются и развертываются слишком быстро. Не проводится надлежащих проверок до выпуска алгоритма в свет», говорит Сара Тан из Корнеллского университета.

В идеале разработчики специалист, занимающийся разработкой схем, механизмов, аппаратуры, программного обеспечения, сайтов и способный реализовать любой проект от стадии замысла до её реализации техническими средствами должны отметать популярные предвзятости — например, по полу многозначное понятие: Пол (настил) — нижнее покрытие, настил в доме, помещении, возрасту и расе система популяций человека, характеризующаяся сходством по комплексу определённых наследственных биологических признаков, имеющих внешнее фенотипическое проявление и сформировавшихся в определенном географическом регионе — и запускать внутренние симуляции для проверки своих алгоритмов на наличие других проблем.

Тем временем, прежде чем дойти до точки, когда все алгоритмы будут тщательно тестироваться до выпуска, уже кушать возможность направление развития, присутствующее в каждом явлении жизни; выступает и в качестве предстоящего, и в качестве объясняющего, то есть как категория определять, какие из них будут страдать от предвзятости это негативное отношение, предвзятость, насилие, несправедливость и лишение определенных прав людей по причине их принадлежности к определенной социальной группе.

В своей последней работе Тан, Каруана и их коллеги описали новый способ понять, что может выходить под капотом алгоритмов черного ящика. Ученые создали модель, которая имитирует алгоритм черного ящика, обучаясь оценивать риск рецидивизма по этим COMPAS. Также они создали другую модель это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции, которая обучалась по данным реального мира, которые показывают, действительно ли происходил предсказанный рецидивизм. Сравнение двух моделей позволило ученым оценить точность прогнозируемого балла, не разбирая алгоритм. Различия в результатах последствие цепочки действий или событий, выраженных качественно или количественно двух моделей могут показать, какие переменные, такие как раса или возраст продолжительность периода от момента рождения живого организма до настоящего или любого другого определённого момента времени, могут быть более значительными в той или иной модели. Их результаты показали, что COMPAS предвзято относится к черным людям.

Правильно построенные алгоритмы могут устранить давно устоявшиеся предубеждения в районы уголовного правосудия, полицейской деятельности и многих других сферах это геометрическое место точек в пространстве, равноудаленных от некоторой заданной точки (центра сферы) общества.

На протяжении нескольких лет в 1980-х годах абитуриентов Медицинской школы больницы Святого Георгия в Лондоне отнимали, используя высокотехнологичный метод. Компьютерная программа, одна из первых в своем роде, просматривала резюме, выбирая из всех заявок порядка 2000 кандидатов 1 в год. Программа разбирала записи о поступлениях, изучая характеристики успешных заявителей, и корректировалась до тех пор, пока ее решения […]