Уильям МАККАЛЛОК

Материал из Letopisi.Ru — «Время вернуться домой»
Перейти к: навигация, поиск


Статья на удаление

В Интернете уже есть текст статьи по теме - [1] Уильям МАККАЛЛОК.

Не нарушайте авторское право!


==Уильям МАККАЛЛОКМАК-КАЛЛОК (McCulloch) Уоррен (1898-1969)==


     МАК-КАЛЛОК (McCulloch) Уоррен (1898-1969), американский нейрофизиолог. 
     Труды по анализу информационных явлений в нервных сетях средствами 
     математической логики. Ввел (совместно с У. Питсом (W. Pitts) понятие 
     формального нейрона.                                                  
      
     Модель Маккалоха
      
     Теоретические основы нейроматематики были заложены в начале 40-х годов. В 
     1943 году У. Маккалох и его ученик У. Питтс сформулировали основные 
     положения теории деятельности головного мозга[9]. Ими были получены 
     следующие результаты:
     - разработана модель нейрона как простейшего процессорного элемента, 
     выполняющего вычисление переходной функции от скалярного произведения 
     вектора входных сигналов и вектора весовых коэффициентов;  
     - предложена конструкция сети таких элементов для выполнения логических и 
     арифметических операций;
      - сделано основополагающее предположение о том, что такая сеть способна 
     обучаться, распознавать образы, обобщать полученную информацию.
     Несмотря на то, что за прошедшие годы нейроматематика ушла далеко вперед, 
     многие утверждения Макклоха остаются актуальными и поныне. В частности, 
     при большом разнообразии моделей нейронов принцип их действия, заложенный 
     Макклохом и Питтсом, остается неизменным.
     Недостатком данной модели является сама модель нейрона - "пороговой" вид 
     переходной функции. В формализме У. Маккалоха и У. Питтса нейроны имеют 
     состояния 0, 1 и пороговую логику перехода из состояния в состояние. 
     Каждый нейрон в сети определяет взвешенную сумму состояний всех других 
     нейронов и сравнивает ее с порогом, чтобы определить свое собственное 
     состояние. Пороговый вид функции не предоставляет нейронной сети 
     достаточную гибкость при обучении и настройке на заданную задачу. Если 
     значение вычисленного скалярного произведения, даже незначительно, не 
     достигает до заданного порога, то выходной сигнал не формируется вовсе и 
     нейрон "не срабатывает". Это значит, что теряется интенсивность выходного 
     сигнала (аксона) данного нейрона и, следовательно, формируется невысокое 
     значение уровня на взвешенных входах в следующем слое нейронов.
     НЕЙРОННЫЕ СЕТИ И НЕЙРОКОМПЬЮТЕР

         В последнее время активно ведутся также работы по построению моделей 
     обработки информации в нервной системе. Большинство моделей основывается 
     на схеме формального нейрона У.МакКаллока и У.Питтса, согласно которой 
     нейрон представляет собой пороговый элемент, на входах которого имеются 
     возбуждающие и тормозящие синапсы; в этом нейроне определяется взвешенная 
     сумма входных сигналов (с учетом весов синапсов), а при превышении этой 
     суммой порога нейрона вырабатывается выходной сигнал. 
         В моделях уже построены нейронные сети, выполняющие различные 
     алгоритмы обработки информации: ассоциативная память, категоризация 
     (разбиение множества образов на кластеры, состоящие из подобных друг другу 
     образов), топологически корректное отображение одного пространства 
     переменных в другое, распознавание зрительных образов, инвариантное 
     относительно деформаций и сдвигов в пространстве решение задач 
     комбинаторной оптимизации. Подавляющее число работ относится к 
     исследованию алгоритмов нейросетей с прагматическими целями. 
         Предполагается, что практические задачи будут решаться 
     нейрокомпьютерами - искусственными нейроподобными сетями, созданными на 
     основе микроэлектронных вычислительных систем. Спектр задач для 
     разрабатываемых нейрокомпьютеров достаточно широк: распознавание 
     зрительных и звуковых образов, создание экспертных систем и их аналогов, 
     управление роботами, создание нейропротезов для людей, потерявших слух или 
     зрение. Достоинства нейрокомпьютеров - параллельная обработка информации и 
     способность к обучению. 
         Несмотря на чрезвычайную активность исследований по нейронным сетям и 
     нейрокомпьютерам, многое в этих исследованиях настораживает. Ведь 
     изучаемые алгоритмы выглядят как бы "вырванным куском" из общего 
     осмысления работы нервной системы. Часто исследуются те алгоритмы, для 
     которых удается построить хорошие модели, а не те, что наиболее важны для 
     понимания свойств мышления, работы мозга и для создания систем 
     искусственного интеллекта. Задачи, решаемые этими алгоритмами, оторваны от 
     эволюционного контекста, в них практически не рассматривается, каким 
     образом и почему возникли те или иные системы обработки информации. 
     Настораживает также чрезмерная упрощенность понимания работы нейронных 
     сетей, при котором нейроны осмыслены лишь как суммирующие пороговые 
     элементы, а обучение сети происходит путем модификации синапсов. Ряд 
     исследователей, правда, рассматривает нейрон как значительно более сложную 
     систему обработки информации, предполагая, что основную роль в обучении 
     играют молекулярные механизмы внутри нейрона. Все это указывает на 
     необходимость максимально полного понимания работы биологических систем 
     обработки информации и свойств организмов, обеспечиваемых этими системами. 
     Одним из важных направлений исследований, способствующих такому пониманию, 
     наверное, может быть анализ того, как в процессе биологической эволюции 
     возникали "интеллектуальные" свойства биологических организмов. 


     Введение
     Наш мозг - это своего рода великолепный компьютер. Он способен с 
     невероятной быстротой интерпретировать неточную информацию, поступающую от 
     органов чувств: различает шепот в шумной комнате, лицо в полутемном 
     переулке, улавливает скрытый смысл слов. Самое удивительное то, что мозг 
     умеет обучаться самостоятельно, он умеет без каких-либо явных указаний 
     создавать внутренние представления, благодаря которым и проявляет 
     перечисленные способности. Пока мы многое не знаем о том, каким образом 
     мозг обучается обрабатывать информацию, поэтому в настоящее время 
     существует множество теорий и гипотез на этот счет. А на основе уже 
     полученных знаний предпринимаются попытки создания моделей нервной 
     системы, в частности, с использованием искусственных нейронных сетей. 
     Поскольку наши знания о нейронах далеко неполны, модели могут быть лишь 
     грубым приближением к реальным нейронным сетям, и еще слишком рано 
     говорить о создании искусственного мозга сравнимого с человеческим. В 
     настоящее время он еле дотягивает до уровня нервных систем улиток и 
     дождевых червей, но уже сейчас нейронные сети часто выполняют функции 
     бывшие ранее исключительно прерогативой человека, проводят сложные 
     вычисления, позволяют следить за процессами, для которых отсутствуют 
     какие-либо аналитические зависимости.
     Исторический экскурс
     Первой попыткой создания и исследования искусственных нейронных сетей 
     считается работа Дж. Маккалока (J. McCulloch) и У. Питтса (W. Pitts) 
     "Логическое исчисление идей, относящихся к нервной деятельности" (1943 
     г.), в которой были сформулированы основные принципы построения 
     искусственных нейронов и нейронных сетей. И хотя эта работа была лишь 
     первым этапом, многие идеи, описанные здесь, остаются актуальными и на 
     сегодняшний день. 
     Огромный вклад в нейронауку внесла детекторная теория. Ее основоположником 
     считается Дж. Маккалок, который с группой своих сотрудников в 1959 году 
     опубликовал в статью под названием "О чем глаза лягушки говорят мозгу 
     лягушки", где впервые было введено понятие нейрона-детектора. Работа 
     заинтересовала многих исследователей, наиболее успешные из которых - Р. 
     Хьюберт и Т. Визела, объединив гистохимические и нейрофизиологические 
     методы, показали, что нейроны зрительной коры кошки избирательно реагируют 
     на линии определенного наклона. Объединенные в вертикальные колонки с 
     общим для них наклоном, эти нейроны образуют анализатор, определяющий 
     наклон линии в локальном участке пространства. Таким образом, понятие 
     анализатора, введенное. И.П. Павловым на основании изучения условных 
     рефлексов, обрело в рамках детекторной теории свою нейронную основу. 
     Большим прорывом в области нейроинтеллекта стало создание нейрофизиологом 
     Френком Розенблатом в 1962 г. модели однослойной нейронной сети, названной 
     персептроном. Она была использована для такого широкого класса задач, как 
     предсказание погоды, анализ электрокардиограмм и искусственное зрение. 
     Первые успехи вызвали всплеск оптимизма и послужили стимулом для 
     продолжения исследований. Однако вскоре выяснилось, что созданные сети не 
     способны решать некоторые задачи, существенно не отличающиеся от тех, 
     которые они решали успешно. Позднее Марвин Минский, используя точные 
     математические методы, строго доказал ряд теорем, показав, что 
     используемые однослойные сети теоретически не способны решить многие 
     простые задачи, например, реализовать логическую функцию "Исключающее 
     ИЛИ". Безупречность доказательств Минского, подкрепленная его авторитетом 
     в ученых кругах, явилась одной из причин задержки развития нейроинтеллекта 
     почти на два десятилетия. Однако ряд наиболее настойчивых ученых, таких 
     как Кохонен, Гроссберг, Андерсон продолжили исследования, постепенно 
     создавая теоретические основы для построения и применения искусственных 
     нейронных сетей. Как выяснилось, Минский был слишком пессимистичен в своих 
     прогнозах и многие из задач, описанных им как не решаемые, сейчас решаются 
     нейронными сетями с использованием стандартных процедур. 
     За последние десятилетия теория о нейроинтеллекте приобрела новое дыхание. 
     Было предложено много интересных разработок, таких, например, как 
     когнитон, способный с высокой достоверностью распознавать достаточно 
     сложные образы (например, иероглифы) независимо от поворота и масштаба 
     изображения. Автором когнитона является японский ученый К. Фукушима (K. 
     Fukushima). В 1982 году американский биофизик Дж. Хопфилд (J. Hopfield) 
     предложил интересную модель сети, получившей в будущем его имя. Позднее 
     было разработано ряд эффективных алгоритмов: сеть встречного потока (R. 
     Hecht-Neilsen), двунаправленная ассоциативная память (B. Kosko) и другие.
Персональные инструменты
Инструменты