Архивы: по дате | по разделам | по авторам

Нейронные процессоры Intel

Архив

автор : Сергей Гриняев 08.10.2001

Достижение глобального доминирования основывается на двух основных стратегиях: информационное превосходство и превосходство технологическое. Что касается последнего, то переход к новой общественно-экономической формации постиндустриального общества выдвигает на первый план такие технологии, как генетика и биоинженерия, нанотехнологии и нейроинформатика.

Нейроинформатика, будучи основанной на принципах и механизмах функционирования мозга, способна обеспечить как технологическое, так и информационное превосходство. Неслучайно сегодня нейрокомпьютеры занимают одно из важнейших мест среди перспективных разработок вооружения и военной техники.

Известно несколько реализаций в кристаллах нейропроцессоров различных моделей нейронных сетей. Одни работают лучше, другие хуже, но всех их объединяет одно - стремление проникнуть в тайны человеческого мозга.

В каталогах продукции фирмы Intel особняком стоят две разработки, выполненные по заказу DARPA (Defense Advanced Research Projects Agency): аналоговый нейропроцессор i80170NX и цифровой - i80160NC или Ni1000 [1].

Нейропроцессоры являются сердцем нового поколения вычислительной техники - нейрокомпьютеров. Основой функционирования подобных машин является моделирование способов переработки информации нервной системой и головным мозгом человека. Считается, что начало этому направлению было положено в 1943 году, когда американские ученые У. Маккалок и У. Питтс опубликовали статью, в которой нейроны - клетки нервной системы - рассматривались как простейшие логические устройства [4].

Искусственный нейрон Маккалока и Питтса в первом приближении имитирует свойства биологического нейрона. На вход такого искусственного нейрона поступает множество сигналов, каждый из которых является выходом другого нейрона. Каждый входной сигнал умножается на некоторый коэффициент, отражающий вклад, вносимый этим сигналом в значение выходного сигнала нейрона. Сигналы, поступившие на нейрон и помноженные на соответствующие им коэффициенты, суммируются, и если суммарный сигнал больше некоторого заданного порога срабатывания, нейрон активизируется и выдает на связанные с ним нейроны единичный импульс. Изменяя соответствующим образом значения весовых коэффициентов на входах нейронов, можно получить на выходе сети требуемое значение. Процесс настройки весовых коэффициентов называется обучением нейронной сети. По аналогии с обучением человека, обучение нейронной сети может проходить с учителем или самостоятельно, путем самоорганизации.

Простота предложенной модели нейрона воодушевила многочисленных исследователей, стремившихся проникнуть в тайны человеческого мозга.

В конце 1950-х годов, американец Ф. Розенблатт, пытаясь объяснить работу биологического нейрона, предложил его модель - персептрон. В начале 60-х математик Р. Блок сформулировал теорему распознавания, а радиоинженер Б. Уидроу разработал и воплотил в жизнь первую искусственную нейронную сеть, известную в литературе под названием «Адалайн». Он же создал и алгоритм, обучающий ее распознавать образы.

Однако вплоть до середины 80-х нейросети не получали дальнейшего развития. Сказалось отставание практики от теории и несовершенство технологий. Применявшиеся программные модели не могли раскрыть всех достоинств нейронных сетей, а создание их аппаратной реализации требовало колоссальных затрат при тогдашнем уровне технологий. Более перспективными считались традиционные большие ЭВМ (мэйнфреймы), но быстрый рост числа очень сложных задач заставил вновь обратиться к искусственным нейронным сетям.

Компания Intel одной из первых среди гигантов компьютерной индустрии серьезно заинтересовалась возможностями искусственных нейронных сетей. Работы по этой теме были начаты в 1988 году. В следующем году уже был представлен первый рабочий образец нейропроцессора i80170NX [2]. Годом позже Intel (совместно с фирмой Nestor и при финансовой поддержке DARPA) приступила к разработке цифрового нейрочипа Ni1000, который был анонсирован в 1993 году, как i80160NC.

Нейросетевой процессор i80170NX ETANN (Electrically Trainable Analog Neural Network) является уникальной в своем роде микросхемой, предназначенной для решения задач распознавания образов [2]. Процессор эмулирует работу 64 биологических нейронов [3]. Каждый нейрон процессора имеет 128 синапсов (входов). В свою очередь, каждый синапс соединен с входом процессора посредством некоторого устройства, позволяющего задать коэффициент, характеризующего силу этой связи, что полностью соответствует модели, предложенной еще У. Маккалоком и У. Питтсом. Данные на входе и выходе процессора аналоговые, но функции управления, установки и чтения весовых коэффициентов - цифровые.

Нейрочип полностью совместим по уровням рабочих сигналов с микросхемами CMOS и ТТL. Входной сигнал на нейроне может изменяться от 0 до 2,8 В. Веса синапсов также представлены напряжением в диапазоне от -2,5 до 2,5 В. Изготовлен процессор по лицензионной технологии Intel - CHMOS III EEPROM [3].

Высокопараллельная архитектура, свойственная нейронным сетям, и ряд особенностей построения процессора позволили добиться быстродействия 2 млрд. операций в секунду! i80170NX является сердцем нейронной платы-акселератора для ПЭВМ. Производительность такой платы с восемью процессорами составляет 16 млрд. операций в секунду! До последнего времени такая производительность была свойственна только лишь суперкомпьютерам!

Краткие технические данные процессора следующие:

производительность 2 млрд. оп./с;
способен распознавать 300 тысяч 128-разрядных образа в секунду;
моделирует 64 нейрона;
поддерживает модели нейронной сетей Хопфилда, многослойного персептрона и Madaline III.

Простота создания приложений на i80170NX обеспечивается наличием мощных средств разработки. Для проектирования нейронных сетей поставляется пакет iNNTS (Intel Neural Network Training System) и EMB (ETANN Multi-Chip Board). В комплект поставки входит и одна из программ моделирования и изучения искусственных нейронных сетей iBrainMaker фирмы California Scientific Software или iDynaMind фирмы NeuroDynamX. Обе программы имеют удачный пользовательский интерфейс и могут использоваться для демонстрации свойств и возможностей нейронных сетей. Для той же категории пользователей, что решит самостоятельно заняться разработкой моделей нейронных сетей, есть целая библиотека функций по управлению нейрочипом - Training System Interface Lib (TSIL).

Другая разработка Intel в области искусственных нейронных сетей - процессор i80160NC. Его основное отличие от i80170NX в том, что он полностью цифровой.

Технические данные i80160NC:

внутренняя память: 1 тысяча 256-разрядных образов;
тип памяти: Flash EPROM;
максимальное число классов: 64;
скорость распознавания: 33 тысячи образов в секунду на частоте 33 МГц.

Как и i80170NX, процессор i80160NC поставляется на плате нейросетевого акселератора для ПЭВМ. Характеристики платы следующие:

системная шина ISA;
рабочая частота 33 МГЦ;
скорость обмена по шине 2 Мбит/с;
мощность 8 Вт.

Поддерживается следующее программное обеспечение:

MS Windows 3.1;
MS Excel 4.0;
MS Visual C++, Borland C++.

Вместе с платой поставляются следующие средства разработки приложений:

Ni1000 Assembler;
Ni1000 Emulator Lib.;
Ni1000 HardWare Lib.

Программа Ni1000 Emulator позволяет отлаживать код приложений без использования процессора, а по окончании процесса отладки сразу перейти к работе на аппаратуре.

Основные характеристики процессоров i80170NX и i80160NC приведены в табл. 1.

	i80170NX	i80160NC
ввод/вывод и вычисления	аналоговый	цифpовой
обучение	внешнее	встpоенное: RCE, PNN, LVQ
память	10К,6 бит. веса	256К,5 бит.веса
скоpость pаспознавания	300 тыс. обp./с	40 тыс. обp./с
активационная функция нейрона	сигмоид, МLP	Manhattan Dist., RBF

Процессор Ni1000 разрабатывался как вариант сопроцессора для задач распознавания образов и предназначался для встраивания в высокопроизводительные портативные сканеры. Применение нейросетевой технологии позволило добиться значительных результатов в решении задач такого класса. Так, если RISC-процессоры AMD29000 и i80860 позволяют решать некоторые задачи в 2-5 раз быстрее, то с использованием i80160NC скорость решения аналогичных задач может увеличиться в 100 и даже 1000 раз! Такое быстродействие позволило применить этот класс процессоров для решения сложнейшей задачи - распознавания отпечатков пальцев.

Что же сулит разработчикам и пользователям вычислительной техники появление на рынке столь мощного семейства процессоров? Сейчас существует ряд задач очень высокой сложности. К ним относится прогнозирование погоды, управления воздушным движением через Атлантику с учетом перемещения воздушных масс, компьютерное моделирование ядерных взрывов и множество других. До последнего времени такие задачами пытались решать на суперкомпьютерах, однако стоимость подобной техники весьма внушительна. На рис. 2 показано положение различных супер-ЭВМ в зависимости от их стоимости и производительности [5]. Хорошо видно, что i80160NC - бесспорный лидер. Он далеко позади оставляет таких монстров, как Cray и Cyber.

Новые горизонты открываются для разработчиков систем искусственного интеллекта. Появление подобных процессоров означает прорыв в решении задач распознавания образов, а значит, и распознавания рукописного текста, речи и пр. Так, японскими специалистами было показано, что с использованием нейронных сетей можно осуществлять синхронный перевод с японского языка на английский.

Рубеж, которого удалось достигнуть специалистам Intel в моделировании нейронных сетей, можно представить схемой, подобной приведенной на рис. 3 [5], где сравниваются нейронные сети живых организмов и моделируемые с помощью процессоров Intel.

Разработчики нейропроцессора в шутку называют свое детище не иначе, как «сверхзвуковой слизняк».

Мечта человека о создании вычислительной машины, способной превысить или хотя бы сравняться с интеллектуальными возможностями человека, остается еще очень далекой. Вместе с тем можно с уверенностью сказать, что работы Intel по созданию искусственных нейронных сетей приблизили тот момент, когда искусственный мозг станет сердцем настольного компьютера.

С момента выхода процессоров Intel в мире появилось множество моделей нейровычислителей, с некоторыми из них можно ознакомиться в табл. 2.

Чип	Встроен ли алгоритм обучения	Быстродействие (МЛРД. соед./с)
i80170NX	Нет	3
i80160NC	Да	10
Adaptive Sol’ns CNAP	Да	1,2
Motorola	Да	-
Siemens MA 16	Да	0,8
American Neur. NLX 420	Нет	0,3
HNC SNAP	Да	0,2

К настоящему времени разработано большое число всевозможных плат ускорителей и специализированных нейровычислителей. Нейронные ЭВМ уже находят применение в различных сферах деятельности человека. В США действует система по обнаружению пластиковой взрывчатки в багаже авиапассажиров на основе нейронной сети. Большое внимание уделяется вопросу применения нейронных процессоров в системах коммутации в сетях передачи данных. Существуют системы аутентификации личности по отпечаткам пальцев с использованием нейросетей. В литературе описано и множество других случаев успешного применения нейронных процессоров.

Характерной особенностью нового витка развития средств вычислительной техники является то, что он несет принципиальные изменения в мир информатики. С утверждением в обществе следующего поколения вычислительной техники отпадет надобность в профессии программиста, а его место займет специалист по обучению нейрокомпьютера. Вводу в эксплуатацию каждого нового компьютера будет предшествовать его обучение. Не исключено, что возникнет необходимость в киберпсихологах и воспитателях нейронной ЭВМ. Таким образом, мы с вами живем на переломном этапе в развитии информатики и вычислительной техники, и немалую роль в том, что он настал, сыграли нейронные процессоры фирмы Intel - первые ласточки эры нейронных компьютеров.

[i41528]

Литература

A. Thakoor et al., DARPA Program Review, Dec. 1991, Washington, D. C.
M. Holler, S. Tam, H. Castro, R.Benson, «An Electrically Trainable Artificial Neural Network (ETANN) with 10240 „Floating Grate“ Synapses», International Joint Conference on Neural Networks, June 1989, Washington, D. C.
Intel, i80170NX Electrically Trainable Analog Neural Network, Intel Corp., June 1991.
Stanly, Jeanette, Introduction to Neural Networks, California Scientific Software, 1990.
Intel, 80170NX Neural Network Technology & Application, Intel Corp., 1992.