Сеть, названная водохранилищем вычислительная система, могла предсказать слова, прежде чем они будут сказаны во время разговора, и помощь предсказывает будущие результаты на основе подарка.Исследовательская группа, которая создала водохранилище вычислительная система, во главе с Вэй Лу, преподавателем электротехники и информатики в Мичиганском университете, недавно издала их работу по своей природе Коммуникации.Водохранилище вычислительные системы, которые изменяют к лучшему способность типичной нейронной сети и уменьшают необходимое учебное время, было создано в прошлом с большими оптическими компонентами.
Однако группа U-M создала их систему, используя мемристоры, которые требуют меньшего количества пространства и могут быть объединены более легко в существующую основанную на кремнии электронику.Мемристоры – специальный тип имеющего сопротивление устройства, которое может и выполнить логику и хранить данные. Это контрастирует с типичными компьютерными системами, где процессоры выполняют логику, отдельную по памяти модули. В этом исследовании команда Лу использовала специальный мемристор, который запоминает события только в близкой истории.
Вдохновленный мозгами, нейронные сети состоят из нейронов, или узлов, и синапсов, связей между узлами.Чтобы обучить нейронную сеть задаче, нейронная сеть берет в большом ряду вопросов и ответах на те вопросы.
В этом процессе того, что назвало контролируемое изучение, связи между узлами нагружены в большей степени или слегка минимизировать количество ошибки в достижении правильного ответа.После того, как обученный, нейронная сеть может тогда быть проверена, не зная ответ. Например, система может обработать новую фотографию и правильно определить человеческое лицо, потому что она изучила особенности человеческих лиц из других фотографий в его учебном наборе.«Много времен, требуются дни или месяцы, чтобы обучить сеть», сказал Лу. «Это очень дорого».
Признание изображения – также относительно простая проблема, поскольку оно не запрашивает информации кроме статического изображения. Более сложные задачи, такие как распознавание речи, могут зависеть высоко от контекста и потребовать, чтобы у нейронных сетей было знание того, что просто произошло, или что было просто сказано.«Расшифровывая речь в тексте или переводя языки, значение слова и даже произношение будет отличаться в зависимости от предыдущих слогов», сказал Лу.Это требует текущей нейронной сети, которая включает петли в сети, которые дают сети эффект памяти.
Однако обучение, эти текущие нейронные сети особенно дорогие, Лу, сказало.Водохранилище вычислительные системы, построенные с мемристорами, однако, может пропустить большую часть дорогого учебного процесса и все еще предоставить сети способность помнить. Это вызвано тем, что самый критический компонент системы – водохранилища – не требует обучения.Когда ряд данных введен в водохранилище, водохранилище определяет важные связанные со временем особенности данных и передает их в более простом формате к второй сети.
Этой второй сети тогда только нужно обучение как более простые нейронные сети, изменяя веса особенностей и продукции, которую передала первая сеть, пока это не достигает допустимого уровня ошибки.«Красота вычисления водохранилища состоит в том, что, в то время как мы проектируем его, мы не должны обучать его», сказал Лу.
Команда доказала водохранилище вычислительное понятие, используя тест на признание почерка, общую оценку среди нейронных сетей. Цифры были разбиты в ряды пикселей и питались в компьютер напряжениями как Азбука Морзе нулевыми В для темного пикселя и немногим более, чем одним В для белого пикселя.Используя только 88 мемристоров как узлы, чтобы определить рукописные версии цифр, по сравнению с обычной сетью, которая потребовала бы тысяч узлов для задачи, водохранилище достигло 91-процентной точности.Вычислительные системы водохранилища особенно владеют мастерством обработки данных, которые меняются в зависимости от времени, как поток данных или слов или функции в зависимости от прошлых результатов.
Чтобы продемонстрировать это, команда проверила сложную функцию, которая зависела от многократных прошлых результатов, который распространен в технических областях. Водохранилище вычислительная система смогло смоделировать сложную функцию с минимальной ошибкой.
Лютеций планирует исследование двух будущих путей с этим исследованием: распознавание речи и прогнозирующий анализ.«Мы можем сделать предсказания на естественном разговорном языке, таким образом, Вы не должны даже говорить полное слово», сказал Лу. «Мы могли на самом деле предсказать то, что Вы планируете сказать затем».В прогнозирующем анализе Лу надеется использовать систему, чтобы взять в сигналах с шумом, как статический от отдаленных радиостанций, и произвести более чистый поток данных.
«Это могло также предсказать и произвести выходной сигнал, даже если бы вход остановился», сказал он.