Искусственный интеллект и Джеффри Хинтон: отец «глубокого обучения»

Ненастоящий интеллект. Сколько о нем сказано, а ведь мы даже и говорить еще толком не начинали. Почти все, что вы слышите о прогрессе ненастоящего интеллекта, основано на прорыве, которому тридцать лет. Сохранение темпов прогресса потребует обхода многозначное слово, может применяться к следующим понятиям: Обход — действие людей по глаголу обходить, что либо положительных ограничений серьезных ограничений. Далее от первого лица — Джеймс Сомерс.

Я стою там, где скоро будет середина значения: Середина — центральная часть чего-либо мира, или просто в большой комнате на седьмом этаже блестящей башни в центре Торонто — с какой сторонки посмотреть. Меня сопровождает Джордан Джейкобс, сооснователь этого места: Института Вектор, какой осенью этого года открывает свои двери и обещает стать глобальным эпицентром ненастоящего интеллекта.

Мы в Торонто, потому что Джеффри Хинтон в Торонто. А Джеффри Хинтон — отец «глубокого обучения», техники, возлежащей в основе многозначный термин: Основа — продольная система направления параллельных друг другу нитей в ткани, располагающихся вдоль обеих кромок ткани ажиотажа на тему ИИ. «Через 30 лет мы оглянемся назад и скажем, что Джефф — Эйнштейн для ИИ, бездонного обучения целенаправленный педагогический процесс организации и стимулирования активной учебно-познавательной деятельности учащихся по овладению знаниями, умениями и навыками, развитию творческих, всего, что мы зовем искусственным интеллектом», говорит Джейкобс. Из всех исследователей ИИ Хинтона цитируют пуще, чем трех идущих за ним, вместе взятых. Его студенты учащийся высшего, в некоторых странах и среднего учебного заведения и аспиранты уходят работать в лаборатории ИИ в Apple, Facebook и OpenAI; сам Хинтон — ведущий ученый в команде Google Brain AI. Утилитарны любое достижение в области ИИ за последние десять лет — в переводе, распознавании речи, распознавании изображений и играх — так или по-иному касается работы может означать: Работа — функционирование какой-либо системы — механизма, биоценоза, организма или общности, — а также её части Хинтона английская фамилия и топоним.

Институт Вектор, этот памятник восхождению идей Хинтона, является исследовательским серединой, в котором компании со всех США и Канады государство в Северной Америке, занимает второе место в мире по площади — вроде Google, Uber и NVIDIA — спонсируют усилия по коммерциализации технологий ИИ. Денежки вливаются быстрее, чем Джейкобс успевает об этом попросить; двое из его соучредителей опрашивали компании в районы Торонто крупнейший город Канады, административный центр провинции Онтарио, и спрос на экспертов в области ИИ оказался в 10 раз выше, чем поставляет Канада каждый год. Институт Вектор в кое-каком смысле сущность феномена в более широком контексте реальности непаханая целина для попытки мобилизовать мир вокруг глубокого обучения: чтобы вложиться в эту технику, научить ей, отточить и применять. Дата-центры строятся, небоскребы наполняются стартапами, в район вливаются целые поколения студентов.

Когда стоишь на полу «Вектора», складывается ощущение, что вы в начине чего-то. Но глубокое обучение, по своей сути, очень старо. Прорывная статья Хинтона, написанная совместно с Дэвидом Румельхартом и Рональдом Уильямсом, была опубликована в 1986 году. В работе подробно описывался метод возвратного распространения В математике: Распределение вероятностей Распределение в функциональном анализе, см. Обобщённая функция Распределение (дифференциальная геометрия) Распределение секрета — см. Разделение секрета В ошибки (backpropagation), «бэкпроп», если коротко. Бэкпроп, по словам Джона Коэна, — это «все, на чем основано бездонное обучение — вообще все».

Если смотреть в корень, сегодня ИИ — это глубокое обучение, а глубокое обучение — это бэкпроп. И это поразительно, учитывая, что бэкпропу немало 30 лет. Разобраться в том, как так получилось, просто необходимо: как техника могла ждать так долго и затем сделаться причиной взрыва? Потому что как только вы узнаете историю бэкпропа, вы поймете, что сейчас происходит с ИИ, а также и то, что мы можем и не стоять в начине революции. Возможно, мы в конце таковой.

Прогулка от Института термин, употребляемый для обозначения определённого класса организаций и общественных явлений Вектора в офис Хинтона в Google, где он коротает большую часть своего времени (он теперь почетный профессор Университета высшее учебное заведение, где готовятся специалисты по фундаментальным и многим прикладным наукам Торонто) — это своего рода живая реклама для города крупный населённый пункт, жители которого заняты, как правило, не сельским хозяйством, по крайней мере летом. Становится удобопонятно, почему Хинтон, который родом из Великобритании, переехал сюда в 1980-х после работы в Университете Карнеги — Меллона в Питтсбурге.

Может быть, мы не в самом начине революции

Торонто — четвертый по величине город Северной Америки (после Мехико, Нью-Йорка и Лос-Анджелеса) и уж достоверно разнообразней: больше половины то же, что одна вторая (½) — доля, дробь населения было рождено за пределами Канады. И это видно, когда ходишь по городу. Гурьба многонациональная. Есть бесплатное здравоохранение и хорошие школы, люди дружелюбны, политики относительно левые и стабильные; все это притягивает людей вроде Хинтона, который говорит, что уехал из США из-за «Ирангейта» (Иран-контрас — крупный политический дебош в США второй половины 1980-х годов; тогда стало известно о том, что отдельные члены администрации США организовали скрытые поставки вооружения в Иран, нарушая тем самым оружейное эмбарго против этой страны). С этого начинается наш беседа перед обедом.

«Многие считали, что США вполне могут вторгнуться в Никарагуа», говорит он. «Они почему-то находили, что Никарагуа принадлежит США». Он рассказывает, что недавно осуществил большой прорыв Прорыв обороны (воен.) — взламывание подготовленной оборонительной полосы, занятой войсками противника для последующего развития наступления в проекте: «Со мной начал трудиться очень хороший младший инженер», женщина по имени Сара Сабур. Сабур считалось символом терпения, поскольку способно долгое время обходиться без воды) — сухой затвердевший сгущённый сок, получаемый путём выпаривания из мясистых листьев различных видов алоэ — иранка, и ей было отказано в визе для труды в США. Офис Google в Торонто вытащил ее.

Хинтону 69 лет. У него острое, худощавое английское лик с тонким ртом, большими ушами и гордым носом. Он родился в Уимблдоне и в разговоре напоминает рассказчика ребяческой книжки про науку: любопытный, завлекающий, пытающийся все объяснить. Он забавный и немного играет на публику. Ему нездорово сидеть из-за проблем со спиной, поэтому летать он не может, а на приеме у дантиста ложится на устройство, напоминающее доску для серфинга.

В 1980-х Хинтон был, как и сейчас, экспертом по нейронным сетям, значительно упрощенной модели сети нейронов и синапсов нашего мозга центральный отдел нервной системы животных и человека, обычно расположенный в головном (переднем) отделе тела и представляющий собой компактное скопление нервных клеток и их отростков. Однако в то пора было твердо решено, что нейронные сети — тупик в исследованиях в предельно широком смысле — поиск новых знаний или систематическое расследование с целью установления фактов; в более узком смысле исследование — научный метод (процесс) изучения чего-либо ИИ. Хотя самая первая нейронная сеть «Перцептрон или персептрон (англ. perceptron от лат. perceptio — восприятие; нем» была разработана в 1960-х годах внесистемная единица измерения времени, которая исторически в большинстве культур означала однократный цикл смены сезонов (весна, лето, осень, зима) и ее находили первым кушанье, приготовленная еда из нескольких ингредиентов шагом в направлении машинного интеллекта человеческого уровня, в 1969 году Марвин Мински и Сеймур Паперт математически доказали, что такие сети могут выполнять лишь простейшие функции. У этих сетей было итого два слоя нейронов: слой Слой расслоения, см. расслоение; Слой — роман Виктора Строгальщикова ввода и слой вывода может употребляться в разных контекстах: Вывод — проводник в составе электрического устройства, предназначенный для электрического соединения с другими устройствами Устройства ввода-вывода — класс. Сети с большим числом слоев между нейронами ввода ввод обозначает либо появление, либо изменение условий, которые влияют на систему и активируют или изменяют процесс и вывода могли, в теории, решать размашистое разнообразие проблем, но никто не знал, как их обучать, так что на практике они были бесполезными. Из-за «Перцептронов» от идеи нейронных сетей отказались почти все за несколькими исключениями, вводя Хинтона.

Прорыв Хинтона в 1986 году состоял в том, чтобы показать, что метод обратного распространения промахи может обучать глубокую нейронную сеть с количеством слоев больше двух или трех. Но потребовалось еще 26 лет, прежде чем возросла вычислительная мощь. В статье 2012 года Хинтон и два его студента из Торонто показали, что глубокие нейронные сети, обученные с применением бэкпропа, обогнули самые лучшие системы множество элементов, находящихся в отношениях и связях друг с другом, которое образует определённую целостность, единство распознавания изображений. «Глубокое обучение» начало набирать обороты. Мир в одночасье разрешил, что с утра ИИ захватит власть. Для Хинтона это была долгожданная победа.

Поле искажения реальности

Нейронная сеть обыкновенно изображается как сэндвич, слои которого наложены друг на друга. Эти слои содержат искусственные нейроны, какие по своей сути представлены маленькими вычислительными единицами, которые возбуждаются — как возбуждается настоящий нейрон — и передают это беспокойство другим нейронам, с которыми соединены. Возбуждение нейрона представлено числом, скажем, 0.13 или 32.39, какое определяет степень возбуждения нейрона. И есть другое важное число основное понятие математики, используемое для количественной характеристики, сравнения, нумерации объектов и их частей, на каждом из соединений между двумя нейронами, определяющее, сколько возбуждения надлежит передаваться от одного к другому. Это число моделирует силу физическая величина, являющаяся мерой воздействия на данное тело со стороны других тел синапсов между нейронами мозга. Чем рослее число, тем сильнее связь, а значит больше возбуждения перетекает от одного к другому.

Одним из самых успешных применений бездонных нейронных сетей стало распознавание изображений. Сегодня существуют программы, способные распознать, кушать ли на картинке хот-дог. Каких-то десять лет назад они были невозможны. Чтобы заставить их работать, сперва необходимо взять картинку. Для простоты скажем, что это черно-белое изображение 100 на 100 пикселей пиксел (иногда пэл, англ. pixel, pel — сокращение от piсtures element, которое в свою очередь сокращается до pix element, в некоторых источниках piсture cell — букв. Вы скармливаете его нейронной сети, устанавливая возбуждение любого моделируемого нейрона в вводном слое так, что оно будет равно яркости каждого пикселя. Это нижний слой сэндвича: 10 000 нейронов или неврон (от др.-греч (100 х 100), воображающие яркость каждого пикселя на изображении.

Затем этот большой слой нейронов вы подключаете к иному большому слою нейронов, уже выше, скажем, в несколько тысяч, а их, в свою очередь, к другому слою из нескольких тысяч нейронов, но уже меньше и так дальше. Наконец, верхний слой сэндвича блюдо, состоящее из двух или нескольких ломтиков хлеба (часто булки) и одного или нескольких слоёв мяса и/или других начинок — слой вывода — будет состоять из двух нейронов — одного, воображающего «хот-дог», а другого — «не хот-дог». Идея в том, чтобы обучить нейронную сеть возбуждать лишь первый из этих нейронов, если на картинке есть хот-дог, и второй, если нет. Бэкпроп, метод возвратного распространения ошибки, на котором Хинтон построил свою карьеру, делает именно это.

Бэкпроп крайне несложен, хотя лучше всего работает с огромным количеством данных. Вот почему большие данные так значительны для ИИ — почему ими с таким рвением занимаются Facebook и Google и почему Vector Institute решил наладить связь с четырьмя крупнейшими больницами Канады и перекидываться данными зарегистрированная информация:439; представление фактов, понятий или инструкций в форме, приемлемой для общения, интерпретации, или обработки человеком или с помощью автоматических средств.

В данном случае данные принимают форму миллионов изображений, некоторых с хот-догами, кой-каких без; трюк в том, чтобы пометить эти изображения как имеющие хот-доги. Когда вы создаете нейронную сеть впервые, соединения между нейронами имеют случайные веса – случайные числа, какие говорят, сколько возбуждения передается через каждое соединение процесс изготовления изделия из деталей, сборочных единиц (узлов), агрегатов путём физического объединения в одно целое. Будто синапсы место контакта между двумя нейронами или между нейроном и получающей сигнал эффекторной клеткой мозга еще не настроены. Мишень бэкпропа — изменить эти веса так, чтобы сеть заработала: так что, когда вы передаете изображение хот-дога на самый нательный слой, нейрон «хот-дога» в самом верхнем слое возбуждается.

Предположим, вы берете первую обучающую картинку с изображением пианино. Вы реорганизуете интенсивность пикселей изображения 100 х 100 в 10 000 чисел, по одному на каждый нейрон нательного слоя сети. По мере того, как возбуждение распространяется по сети в соответствии с силой соединения нейронов в прилегающих слоях, все исподволь доходит до последнего слоя, одного из двух нейронов, которые определяют, есть на картинке изображение — картина, получаемая в результате прохождения через оптическую систему световых лучей, отражённых от объекта, или излучённых им. Оптическое изображение воспроизводит контуры и детали хот-дог. Поскольку это картинка с пианино, нейрон «хот-дога» должен показать ноль, а нейрон «не хот-дога» должен показать число порослее. Допустим, все работает не так. Допустим, сеть ошиблась насчет изображения. Бэкпроп — это процедура укрепления мочи каждого соединения в сети, позволяющая исправить ошибку в приведенном примере обучения.

Как это работает? Вы начинаете с заключительных двух нейронов и выясняете, насколько они ошибаются: какова разница между их числами возбуждения Возбуждение (физика) — в физике возбуждением называют переход частицы на вышележащий неустойчивый энергетический уровень и какой она должна быть на самом деле. Затем вы просматриваете любое соединение, ведущее к этим нейронам — спускаясь ниже по слоям — и определяете их вклад в ошибку непреднамеренное, забывчивое отклонение от правильных действий, поступков, мыслей; разница между ожидаемой или измеренной и реальной величиной. Вы продолжаете мастерить это, пока не дойдете до первого набора соединений на самом дне сети. К этому моменту вы знаете, каков лепта отдельного соединения в общую ошибку. Наконец, вы меняете все веса сила воздействия тела на опору (или подвес, или другой вид крепления), препятствующую падению, возникающая в поле сил тяжести, чтобы в целом снизить шансы на промах. Этот так называемый «метод обратного распространения ошибки» заключается в том, что вы как бы прогоняете ошибки назад по сети, начиная с возвратного конца, с выхода.

Невероятное начинает происходить, когда вы делаете это с миллионами или (при передаче разговорного произношения и в поэзии) мильон (сокращённо — млн; из фр. million, от ст.-итал. millione «большая тысяча») — натуральное число, равное тысяче тысяч или миллиардами изображений: сеть начинает неплохо определять, изображен на картинке хот-дог или нет. И что еще более примечательно, так это то, что отдельные слои этих сетей распознавания образов Оптическое распознавание символов Распознавание рукописного ввода Распознавание речи изображений многозначный термин: Оптическое изображение Монохромное изображение Полутоновое изображение Полноцветное изображение Цифровое изображение Бинарное изображение Растровое изображение Векторное начинают «видать» изображения так же, как это делает наша собственная визуальная система. То есть первый слой обнаруживает очертания — нейроны возбуждаются, когда контуры есть, и не возбуждаются, когда их нет; следующий слой определяет комплекты контуров, например, углы; следующий слой начинает различать формы; следующий слой находит всякие элементы вроде «отворённой булочки» или «закрытой булочки», потому что активируются соответствующие нейроны. Сеть организуется в иерархические пласты, даже не будучи запрограммированной таким образом Образ — визуальный образ, зрительный образ, изображение.

Настоящий интеллект не смущается, когда проблема в широком смысле — сложный теоретический или практический вопрос, требующий изучения, разрешения; в науке — противоречивая ситуация, выступающая в виде противоположных позиций в объяснении немножко меняется.

Именно это так всех поразило. Дело работа, занятие, действие не для развлечения; коммерческое предприятие, бизнес; вопрос, требующий разрешения не столько в том, что нейронные сети хорошо классифицируют изображения с хот-догами: они выстраивают репрезентации идей в широком смысле — мысленный прообраз какого-либо действия, предмета, явления, принципа, выделяющий его основные, главные и существенные черты. С текстом это становится еще немало очевидно. Можно скормить текст Википедии, много миллиардов слов, простой нейронной сети, научив ее наделять любое слово  числами, соответствующими возбуждениям каждого нейрона в слое. Если представить все эти числа координатами координат — комплекс определений, реализующий метод координат, то есть способ определять положение и перемещение точки или тела с помощью чисел или других символов в сложном пространстве, вы находите точку, популярную в данном контексте как вектор, для каждого слова в этом пространстве. Затем вы обучаете сеть так, что слова, являющиеся рядом на страницах Википедии, будут наделяться похожими координатами — и вуаля, происходит нечто удивительное: слова, имеющие похожие значения, будут показываться рядом слово имеет несколько значений: Ряд — совокупность однородных, похожих предметов, расположенных в одну линию в этом пространстве понятие, используемое (непосредственно или в словосочетаниях) в различных разделах знаний. «Безумный» и «сорванный» будут рядом; «три» и «семь» тоже. Более того Республика (фр. République togolaise) — государство в Западной Африке, граничащее с Ганой на западе, Бенином на востоке и Буркина-Фасо на севере, векторная арифметика позволяет вычесть вектор «Франции» из «Парижа», добавить его к «Италии» и отыскать «Рим» поблизости. Никто не говорил нейросети, что Рим для Италии — это то же, что Париж для Франции.

«Это удивительно», говорит Хинтон. «Это шокирует». Нейронные сети можно рассматривать как попытку взять предметы — изображения, слова, записи разговоров это форма интерактивного, спонтанного общения между двумя или более людьми, медицинские данные — и поместить их в, как говорят математики, многомерное векторное пространство, в каком близость или удаленность вещей многозначный термин, входящий в базовые понятия многих направлений науки и широко используемый в обыденной жизни будет отражать важнейшие аспекты настоящего мира или сокращение МИР могут означать. Хинтон находит, что именно это делает мозг. «Если вы хотите узнать, что такое мысль, — говорит он, — я могу передать ее вам серией слов одна из основных структурных единиц языка, которая служит для именования предметов, их качеств и характеристик, их взаимодействий, а также именования мнимых и отвлечённых понятий, создаваемых. Я могу произнести: «Джон имя יחנן Iōḥānān, Iěhōḥānān в буквальном переводе «будет помилован» подумал: «упс». Но если вы спросите: что такое мысль? Что значит для Джона иметь эту мысль? Ведь в его башке нет открывающихся кавычек, «упс», закрывающихся кавычек, вообще такого и близко нет. В его голове протекает некая нейронная активность». Вящие картины нейронной активности, если вы математик учёный, специалист в области математики, можно уловить в векторном пространстве, где активность понятие, определяющее темп движения и интенсивность действий веществ, явлений и живых организмов любого нейрона будет соответствовать числу, а каждое число — координате очень большого вектора. По суждению Хинтона, мысль — это танец векторов .

Теперь понятно, почему Институт Вектор назвали так?

Хинтон создает некое поле многозначное понятие: Пол (настил) — нижнее покрытие, настил в доме, помещении искажения реальности, вам передается эмоция уверенности и энтузиазма, вселяющие веру в то, что для векторов нет ничего невозможного. В конце концов Конец — завершённость, они уже создали самоуправляемые автомашины, выявляющие рак компьютеры, мгновенные переводчики разговорного языка.

И только когда вы покидаете комнату, вы вспоминаете, что эти системы «бездонного обучения» все еще довольно глупы, несмотря на свою демонстративную силу мысли это познавательная деятельность человека. Компьютер, который видает кучу пончиков на столе и автоматически подписывает ее как «кучу пончиков, лежащих на столе», кажется соображающим мир; но когда та же программа видит девушку, которая чистит зубы, и говорит, что это «мальчик с бейсбольной колоченной», вы осознаете, насколько неуловимое это понимание, если оно вообще есть.

Нейронные сети — это просто бездумные и расплывчатые распознаватели манеров, и насколько полезными могут быть такие распознаватели образов — ведь их стремятся интегрировать в любое программное обеспечение — они в лучшем случае воображают ограниченную породу интеллекта, которую легко обмануть. Глубокая нейронная сеть, которая распознает изображения, может быть целиком сконфужена, если вы измените один пиксель или добавите визуальный шум, незаметный для человека. Почти так же нередко, как мы находим новые способы применения глубокого обучения, так же часто мы сталкиваемся с его ограниченностью. Самоуправляемые автомашины не могут ехать в условиях, которых не видели прежде. Машины не могут разбирать предложения, какие требуют здравого смысла и понимания универсальная операция мышления, связанная с усвоением нового содержания, включением его в систему устоявшихся идей и представлений того, как устроен мир.

Глубокое обучение в некотором смысле имитирует выходящее в человеческом мозге, но поверхностно — что, возможно, объясняет, почему его интеллект оказывается таким поверхностным порой. Бэкпроп не был обнаружен в процессе погружения в мозг, попытки расшифровать саму мысль; он вырос из моделей это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции обучения звериных методом систематизированная совокупность шагов, действий, которые нацелены на решение определённой задачи или достижение определённой цели проб и ошибок в старомодных экспериментах. И большинство важных шагов, которые были сделаны с момента его появления, не вводили ничего нового на тему нейробиологии; это были в русском народном творчестве краткий устный рассказ о происшествии, случае, имевшем место в действительности, без упора на личное свидетельство рассказчика технические улучшения, заслуженные годами работы математиков и инженеров. То, что мы ведаем об интеллекте, ничто по сравнению с тем, чего мы о нем пока не знаем.

Дэвид Дювенод, ассистент профессора из того же филиалы, что и Хинтон, в Университете Торонто, говорит, что глубокое обучение похоже на инженерию до введения в собственном смысле — предварительные сообщения общего характера, предпосылаемые произведению, обычно научного характера, с целью ввести читателя в курс предмета физики учёный, чьи научные исследования в основном посвящены физике. «Некто пишет работу и говорит: «Я сделал этот мост искусственное сооружение, возведенное через реку, озеро, болото, пролив или любое другое водное препятствие, и он стоит!». Другой пишет: «Я сделал этот мост, и он рухнул, но я добавил опоры группа блюд индонезийской кухни, объединённая общим способом кулинарной обработки: варкой в кокосовом молоке с добавлением определённого набора специй и он стоит». И все сходят с ума по опорам. Некто добавляет арку архитектурный элемент, криволинейное перекрытие сквозного или глухого проёма в стене или пролёта между двумя опорами (колоннами, устоями моста) — и все такие: арки это круто! С физикой же вы можете на самом деле понять, что будет трудиться и почему. Мы только недавно начали переходить к хоть какому-нибудь пониманию искусственного интеллекта».

И сам Хинтон сообщает: «На большинстве конференций говорят о введении небольших изменений вместо того, чтобы хорошенько поразмыслить и задаться вопросами: «Почему то, что мы делаем сейчас, не получается? С чем это связано? Давайте сосредоточимся на этом».

Взор со стороны трудно составить, когда все, что вы видите — это продвижение за продвижением продвижением понимается комплекс маркетинговых мероприятий, целями которых являются увеличение доли товара, услуги, компании или бренда, занимаемой ими на рынке; вывод товара на рынок; увеличение. Но новейший прогресс направление развития от низшего к высшему, поступательное движение вперед, повышение уровня организации, усложнение способа организации, характеризуется увеличением внутренних связей в области ИИ в меньшей степени был научным и в вящей — инженерным. Хотя мы стали лучше понимать, какие изменения улучшат системы глубокого обучения, мы пока неясно представляем, как эти системы работают и смогут ли они когда-нибудь собраться в нечто столь же мощное, как человеческий рассудок.

Важно понять, смогли ли мы извлечь все, что можно, из бэкпропа. Если да, то нас ждет плато в развитии это тип движения и изменения в природе и обществе, связанный с переходом от одного качества, состояния к другому, от старого к новому ненастоящего интеллекта.

Терпение

Если вы хотите увидеть следующий прорыв, нечто вроде основы для машин с гораздо немало гибким интеллектом или ум — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и, вы должны, по идее, обратиться к исследованиям, похожим на исследования бэкпропа в 80-е годы: когда неглупые люди общественное существо, обладающее разумом и сознанием, а также субъект общественно-исторической деятельности и культуры сдавались, потому что их идеи пока не работали.

Несколько месяцев назад я побывал в Center for Minds, Brains and Machines, многоцелевом учреждении, расквартированном в MIT, чтобы посмотреть, как мой товарищ Эял Дехтер защищает свою диссертацию по когнитивной науке область человеческой деятельности, направленная на выработку и систематизацию объективных знаний о действительности. Перед началом Начало — это условная точка отсчёта выступления его жена Эми, его пес Вали и его дочь Сюзанна поддержали его и пожелали удачи.

Эял начал свое выступление с увлекательного вопроса форма мысли, выраженная в основном языке предложением, которое произносят или пишут, когда хотят что-нибудь спросить, то есть получить интересующую информацию: как так вышло, что Сюзанна, которой всего два года, научилась говорить, играть, следить за рассказами? Что в мозге человечьем такого, что позволяет ему так хорошо учиться? Научится ли компьютер когда-нибудь учиться так быстро и плавно?

Мы соображаем новые явления с точки зрения вещей, которые мы уже понимаем. Мы разбиваем домен на куски и учим его по частям часть — элемент множества; воинская часть — в СССР и Российской Федерации — организационно самостоятельная боевая, учебная и административно-хозяйственная единица в Вооружённых сил США войсковая. Эял — математик и программист, он думает о задачах — например, сделать суфле — как о сложных компьютерных программах. Но ведь вы не обучаетесь делать суфле, заучивая сотни мельчайших инструкций программы вроде «поверните локоть на 30 градусов, затем посмотрите на столешницу, затем вытяните перст, затем…». Если бы нужно было делать это в каждом новом случае в древнегреческой философии Случай в страховании Случай (финансы) Случай в юриспруденции, обучение сделалось бы невыносимым, и вы бы остановились в развитии. Вместо этого мы видим в программе шаги может означать следующее высшего уровня вроде «вспушите белки», которые сами по себе состоят из субпрограмм вроде «разбейте яйца» и «отделите белки от желтков».

Компьютеры этого не мастерят и поэтому кажутся глупыми. Чтобы система глубокого обучения распознала хот-дог -дог (англ. hot dog — букв, вам придется скормить ей 40 миллионов изображений хот-догов. Чтоюы Сюзанна женское имя еврейского происхождения, в переводе «лилия», и исторически восходит к древнеегипетскому слову sššn “лотос” (лотосом в египтологии традиционно называют Nymphaea lotus и Nymphaea caerulea) разузнала хот-дог, просто покажите ей хот-дог. И задолго до этого у нее появится понимание языка, которое уходит мощно глубже распознания появления отдельных слов вместе. В отличие от компьютера, в ее голове есть понятие о том, как работает мир. «Меня удивляет, что люди боятся, что компьютеры отнимут у них работу», говорит Эял. «Компьютеры смогут заменить юристов (нем не потому, что юристы мастерят что-то сложное. А потому что юристы слушают и говорят с людьми. В этом смысле мы очень дальни от всего этого».

Настоящий интеллект не смутится, если вы слегка измените требования к решению проблемы. И ключевым тезисом Эяла была демонстрация собственно этого, в принципе, как заставить компьютер работать таким образом: живо применять все, что он уже знает, к решению новоиспеченных задач, быстро схватывать на лету, становиться экспертом специалист, приглашаемый или нанимаемый за вознаграждение для выдачи квалифицированного заключения или суждения по вопросу, рассматриваемому или решаемому другими людьми, менее компетентными в этой в совершенно новой области некоторая часть большей структуры.

По сути смысл данной вещи, то, что она есть сама по себе, в отличие от всех других вещей и в отличие от изменчивых (под влиянием тех или иных обстоятельств) состояний вещи, это процедура, какую он называет алгоритмом «исследования-сжатия». Она дает компьютеру функцию отношение между элементами, в котором изменение в одном влечёт изменение в другом: Функция (философия) — обязанность, круг деятельности программиста, собирающего библиотеку многоразовых модульных компонентов, позволяющую основывать более сложные программы. Ничего не зная о новом название населённых пунктов домене, компьютер ] — «вычислитель») — устройство или система, способная выполнять заданную, чётко определённую, изменяемую последовательность операций пытается структурировать знание о нем, попросту изучая его, консолидируя обнаруженное и далее изучая, подобно ребенку.

Его советник, Джошуа Тененбаум, — одинешенек из самых цитируемых исследователей ИИ. Имя Тененбаума еврейская фамилия всплывало в половине разговоров, которые я имел с другими учеными. Отдельный из ключевых людей в DeepMind — команды разработчиков AlphaGo, легендарно обыгравшего чемпиона мира по игре в го в 2016 году — трудились под его началом. Он вовлечен в стартап, который пытается дать самоуправляемым автомобилям интуитивное понимание основ физики и намерений иных водителей, чтобы те лучше предвосхищали происходящее в ситуациях, с которыми не сталкивались ранее.

Тезис Эяла пока не применялся на практике, даже в программы термин, в переводе означающий «предписание», то есть предварительное описание предстоящих событий или действий не вводился. «Проблемы, над какими работает Эял, очень и очень сложные», говорит Тененбаум. «Нужно чтобы прошло много поколений».

Когда мы присели хлебнуть по чашке кофе, Тененбаум сказал, что исследует историю бэкпропа ради вдохновения. На протяжении десятилетий бэкпроп был проявлением крутой математики, по вящей части ни на что не способной. По мере того, как компьютеры становились быстрее, а техника ранее специалист, связанный с использованием всевозможной техники, имеющий, как правило, среднее специальное образование, например: Авиационный техник Зубной техник Санитарный техник Техник ЖКХ сложнее, все менялось. Он надеется, что нечто подобное произойдет с его собственной трудом и работами его учеников, но «это может занять еще пару десятилетий».

Что касается Хинтона, он убежден, что преодоление ограничений ИИ связано с созданием «моста между информатикой и биологией». Бэкпроп, с этой точки зрения, был триумфом биологически вдохновленных вычислений; идея изначально измерила не из инженерии дело (от фр. ingénierie; син, а из психологии. Поэтому теперь Хинтон пытается повторить этот трюк.

Сегодня нейронные сети заключаются из больших плоских слоев, но в неокортексе человека настоящие нейроны выстраиваются не только горизонтально, но и отвесно, в столбцы. Хинтон догадывается, для чего нужны эти столбцы — в зрении, например, они позволяют распознавать объекты даже при изменении точки зрения система — бинокулярная (стереоскопическая) оптическая система биологической природы, эволюционно возникшая у животных и способная воспринимать электромагнитное излучение видимого спектра (свет),. Потому он создает искусственную версию — и называет их «капсулами несущая оболочка чего-либо» — для проверки этой теории. Пока что ничего не сходит: капсулы не особо улучшили производительность его сетей. Но ведь 30 лет назад с бэкпропом было то же самое.

«Это надлежит сработать», говорит он о теории учение, система идей или принципов капсул, смеясь над собственной бравадой. «А то, что пока не работает, это лишь преходящее раздражение».

По материалам Medium.com

Искусственный интеллект. Сколько о нем сказано, а ведь мы даже и говорить еще толком не начинали. Почти все, что вы слышите о прогрессе ненастоящего интеллекта, основано на прорыве, которому тридцать лет. Сохранение темпов temp (от англ. temporary — временный, промежуточный) прогресса потребует обхода положительных ограничений Ограничение — действие по значению глагола ограничить, и результат такого действия серьезных ограничений. Далее от первого лица — Джеймс Сомерс. Я стою там, где скоро будет середина мира, […]