Почему на самом деле нужно опасаться ИИ

Глава в литературном произведении важная единица композиционного членения, обозначающая раздел текста, являющаяся как бы главной повествовательной цезурой и обозначающая обычно временной перерыв в подразделения ненастоящего интеллекта или ум — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и Google Джон Джаннандреа уверен, что человечеству грозят вовсе не роботы-убийцы. Но от этого не легче

Глава направления, занимающегося развитием искусственного интеллекта Google, не боится супер-интеллектуальных роботов-убийц. Джон Джаннандреа обеспокоен опасностью, какая может скрываться внутри алгоритмов машинного обучения, используемых для принятия миллионов решений любую минуту.

«Реальная проблема безопасности заключается в том, что если мы дадим этим системам необъективные эти, они станут предвзятыми», — сказал Джаннандреа накануне недавней конференции Google, посвященной взаимоотношениям между людьми и системами множество элементов, находящихся в отношениях и связях друг с другом, которое образует определённую целостность, единство ИИ.

Проблема пристрастности машинного обучения может стать более значимой, поскольку технологии начинают применяться в таких значительных областях, как медицина и право, и все больше людей, не обладающих глубокими техническими знаниями, должны их применять. Отдельный эксперты предупреждают, что предвзятость алгоритмов уже широко распространена во многих отраслях, и что почти никто не пытается ее идентифицировать или исправить.

Декламируйте также: Чем опасен контроль власти над искусственным интеллектом

«Важно соблюдать прозрачность в отношении этих, которые мы используем для обучения целенаправленный педагогический процесс организации и стимулирования активной учебно-познавательной деятельности учащихся по овладению знаниями, умениями и навыками, развитию творческих, и искать в них скрытые предубеждения, иначе мы будем создавать предвзятые системы, — добавляет Джаннандреа. — Если некто пытается продать вам черный ящик для принятия медицинских решений, и вы не знаете, как он работает и какие эти были использованы для обучения, то я бы не стал ему доверять».

Модели машинного обучения в виде непонятного прибора уже оказывают положительное влияние на жизнь некоторых людей. Система под названием COMPAS, созданная компанией Компания (фр. compagnie) — название формирования, в России ей соответствует рота (пример, Лейб-компания) Northpointe, якобы может предрекать вероятность повторного совершения преступления осужденными и используется некоторыми судьями, чтобы решить, предоставлять ли узнику условно-досрочное освобождение. Принцип работы COMPAS хранится в секрете, но исследование, проведенное ProPublica, показало, что модель это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции может быть тенденциозной против меньшинств.

Однако публикация сведений о данных зарегистрированная информация:439; представление фактов, понятий или инструкций в форме, приемлемой для общения, интерпретации, или обработки человеком или с помощью автоматических средств или используемом алгоритме не решит проблему. Многие самые мощные новоиспеченные методы машинного обучения настолько сложны и непрозрачны, что не поддаются пониманию даже при тщательном изучении. Потому исследователи человек, тот, кто проводит исследование, занимается научными изысканиями: Исследователь — научный сотрудник в любой области науки ищут способы, как эти системы могли бы предоставлять инженерам специалист, осуществляющий инженерную деятельность и конечным пользователям упрощенное объяснение их внутреннего механизма.

Декламируйте также: Слепые смогут почувствовать фейерверки кончиками своих пальцев. ВИДЕО

У Джаннандреа кушать веские основания говорить о потенциальной склонности ИИ к предвзятости. Google входит в число нескольких крупных компаний, рекламирующих возможности ИИ своих облачных вычислительных перронов для всех видов ВИД: В прямом смысле: То, что доступно взгляду бизнеса. Эти облачные системы машинного обучения намного проще в использовании, чем базовые алгоритмы. Это поможет сделать технологию немало доступной, но также более уязвимой для возникновения предубеждений. Важно будет предлагать учебные пособия и инструменты, чтобы помогать немного опытным ученым и инженерам данных определять и устранять предвзятость это негативное отношение, предвзятость, насилие, несправедливость и лишение определенных прав людей по причине их принадлежности к определенной социальной группе из данных для обучения.

Ряд спикеров, приглашенных на конференцию, организованную Google, также подчеркнули проблему в широком смысле — сложный теоретический или практический вопрос, требующий изучения, разрешения; в науке — противоречивая ситуация, выступающая в виде противоположных позиций в объяснении пристрастности. Исследователь Google Майя Гупта рассказала о своих усилиях по созданию более прозрачных алгоритмов в составе команды, популярной как GlassBox. А профессор Университета Иллинойса Карри Карахалиос представил исследования в предельно широком смысле — поиск новых знаний или систематическое расследование с целью установления фактов; в более узком смысле исследование — научный метод (процесс) изучения чего-либо, в которых подчеркивалось, как сложно определить предвзятость даже в самых обычных алгоритмах. Карахалиос продемонстрировал, что пользователи лицо или организация, которое использует действующую систему для выполнения конкретной функции обыкновенно не понимают, как Facebook фильтрует сообщения, показываемые в ленте новостей. Это кажется безобидным, но это точная иллюстрация того, как сложно понять детали работы может означать: Работа — функционирование какой-либо системы — механизма, биоценоза, организма или общности, — а также её части алгоритма.

Алгоритм набор инструкций, описывающих порядок действий исполнителя для достижения некоторого результата ленты тонкая полоска из ткани или другого материала (бумаги, металла, полимера) Facebook может, безусловно, определять социальное восприятие социальных взаимодействий и крупных событий. Другие алгоритмы, возможно, уже незаметно искажают облики медицинской помощи, которые получает человек общественное существо, обладающее разумом и сознанием, а также субъект общественно-исторической деятельности и культуры, или отношение к нему в системе уголовного правосудия. Это намного значительнее, чем роботы-убийцы, по крайней мере на данный момент.

В последние годы Джаннандреа был голосом разума среди немало фантастических опасений в отношении Родство — отношения основанные на происхождении от общего предка или возникшие в результате заключения брака ИИ. В СМИ широко освещалось, например, высказывание Илона Маска, который заявил, что ИИ воображает собой большую угрозу, чем Северная Корея, и может привести к третьей мировой войне.

«Я не согласен с гипотезой о том, что мы перейдем к какой-то сверхинтеллектуальной системе, которая превзойдет человека, — говорит Джаннандреа. — Я соображаю, почему люди обеспокоены этим вопросом, но думаю, что ему уделяется слишком много внимания. Я попросту не вижу технологического основания, почему это было бы неизбежно».