Оптические нейрокомпьютеры, аналоговые нейрокомпьютеры на ОУ, оптоэлектронные нейрочипы и искусственные сетчатки, нейрокомпьютеры на основе частотно-импульсного кодирования

Александр Кукшин, Михаил Степанов, Жанна Соколова

Оптические нейрокомпьютеры, аналоговые нейрокомпьютеры на ОУ, оптоэлектронные нейрочипы и искусственные сетчатки, нейрокомпьютеры на основе частотно-импульсного кодирования

Содержание

А.И. Кукшин, Ж.В. Соколова, М.В. Степанов

Разработка программных и аппаратных модулей искусственного интеллекта и машинного обучения на основе импортозамещения и импортонезависимости нейрокомпьютеров в России

МОСКВА, 2026

Кукшин А.И., Степанов М.В., Соколова Ж.В., Разработка программных и аппаратных модулей искусственного интеллекта и машинного обучения на основе импортозамещения и импортонезависимости нейрокомпьютеров в России: Монография — Москва, Литрес, 2026. — 1000 с.

Во второй половине 20-х годов XXI века искусственный интеллект (ИИ) стремительно ворвался, как кажется, во все сферы повседневной жизни, от пионеров, то есть, школьников, которые делают с помощью ИИ домашние задания, до пенсионеров, которым предлагают с помощью ИИ обеспечить себе добавку к пенсии. На первый взгляд, ИИ — суперсовременное научно-техническое направление в индустрии информационных технологий (ИТ), однако у ИИ уже имеется длительная история научного развития математических моделей и методов обучения и самообучения многослойных нейронных сетей (МНС), а также развития технических средств и технологий для аппаратной реализации МНС, которую полезно знать для овладения методами и возможностями ИИ, хотя бы для расширения кругозора и понимания возможных направлений развития этой отрасли ИТ.

В монографии приводятся некоторые исторические данные о развитии ИИ и МНС, математические алгоритмы ИИ и глубокого обучения МНС, примеры программной реализации МНС и ИИ, Элементно компонентная база (ЭКБ) цифровой и/или аналоговой, в том числе оптической, аппаратной реализации МНС и нейрокомпьютеров.

Александр Иванович Кукшин — д.т.н,

Жанна Валерьевна Соколова,

Михаил Валерьевич Степанов.

Введение

Глава 1. Введение в искусственный интеллект и его направления

1.1. История и эволюция искусственного интеллекта (ИИ)

1.1.1. Основные вехи развития теории ИИ в 1906–2026 гг.

1.1.1.0. Камилло Гольджи. Сантьяго Рамон-и-Кахал. Кто, как и когда впервые разглядел реальные нейроны в микроскоп и сфотографировали их?

1.1.1.1. У.С. Мак-Каллок, У.В. Питтс, «Логическое исчисление идей, относящихся к нервной активности» (1943), «Надёжность биологических систем» (1964)

1.1.1.2. Марвин Минский, Сеймур Пейперт, «Персептроны» (1971)

1.1.1.3. Фрэнк Розенблатт, «Персептрон: вероятностная модель хранения информации и организация мозга» (1958), «Принципы нейродинамики» (1958).

1.1.1.4. Бернард Уидроу, «Адаптивные переключающие схемы» (1960), «Распознавание образов и адаптивное управление» (1965)

1.1.1.5. Роберт Хехт-Нельсон, «Нейронная обработка аналоговой информации» (1981)

1.1.1.6. Давид Хьюбел, «Глаз, мозг, зрение» (1988)

1.1.1.7. Кунихико Фукушима, Когнитрон и Неокогнитрон (1969–1982)

1.1.1.8. Тойве Кохонен, Самоорганизующиеся карты (1972–1984)

1.1.1.9. Давид Хопфильд, «Нейронные сети и физические системы, проявляющие свойства коллективных вычислений», (1982)

1.1.1.10. А.Н. Колмогоров, «Представление непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного и сложения» (1957)

1.1.1.11. Я.З. Цыпкин, «Адаптация, обучение и самообучение в автоматических системах» (1966), «Обучающиеся автоматические системы» (1970), «Алгоритмы распознаванию образов в нестационарных условиях» (1972)

1.1.1.12. В.М. Глушков, «Теория обучения одного класса дискретного персептрона» (1962)

1.1.1.13. А.И. Галушкин, «Синтез многослойных систем распознавания образов» (1974)

1.1.1.14. А.Н. Горбань, «Обучение нейронных сетей» (1990)

1.1.1.15. В.Л. Дунин-Барковский, А.Н. Горбань, С.А. Терехов, Д.А. Россиев, М.Ю. Сенашова, Е.М. Миркес, «Нейроинформатика» (1998)

1.1.1.16. НИИ МВК нейрочип БИС Н1537ХМ1

1.1.1.17. НТЦ «Модуль», СБИС Л1879ВМ1 (NM6403) (1992–1998)

1.1.1.18. Пятизвенный киберцикл «Красная звезда» В.И. Варшавского и Д.А. Поспелова (СССР) (1980)

1.1.1.19. Четырёхзвенный киберцикл капитана Бойда (США) (1992)

1.1.1.20. АСУ «Манёвр» для гарантированного обеспечения повышения боевой эффективности артиллерии и ракетных войск фронта в 3 раза на учениях «Запад-81». Маршал Н.В. Огарков, начальник Генерального штаба ВС СССР, внедрение результатов кибернетики в МО СССР для автоматизации боевого управления войсками на ТВД на основе пятизвенного киберцентра «Красная звезда» В.И. Варшавского и Д.А. Поспелова (1981)

1.1.1.21. В.И. Варшавский, Д.А. Поспелов, М.Г. Гаазе-Раппопорт, Оркестр играет без режиссёра (1984), От амёбы до робота: модели поведения (1987)

1.1.1.22. А.В. Каляев, И.А. Каляев. Однородные вычислительные среды. Однородные управляющие структуры адаптивных роботов. (1980–1990)

1.1.1.23. Михаил Нельсен (Michael Nelsen), Глубокое обучение МНС (2016)

1.2. Математические основы аппарата нейронных сетей

1.2.1. Понятие «нейрона» и «синапсов» как функции нелинейного порогового преобразования «взвешенной суммы». Функция активации для выполнения нелинейного порогового преобразования

1.2.2. Понятие многомерной нелинейной разделяющей поверхности между гиперобластями классов признаков в гиперпространстве

1.2.3. Применение многомерного полинома для реализации многомерной нелинейной разделяющей поверхности. Кусочно-линейная аппроксимация многомерной нелинейной разделяющей поверхности в многомерном гиперпространстве признаков

1.2.4. Описание «нейронной сети» как математического алгоритма

1.2.5. Почему для решения задачи распознавания образов (многомерных сигналов) с помощью адаптивной нейронной сети нет необходимости точного совпадения входного сигнала с каким-нибудь образом (многомерным сигналом) из обучающей выборки?

1.2.6. Многослойные нейронные сети для разделения линейно-зависимых признаков

1.3. Основные направления ИИ: машинное обучение, глубокое обучение, нейронные сети

1.3.1. Машинное обучение

1.3.2. Глубокое обучение

1.3.3. Алгоритм адаптивного обучения под контролем учителя многослойной нейронной сети (персептрона) с помощью обратного распространения сигнала ошибки (BP －backpropagation error signal learning)

1.3.3.1. Алгоритм адаптивного обучения под контролем учителя многослойной нейронной сети (персептрона)

1.3.3.2. Рекуррентная формула модификации значений весовых коэффициентов в алгоритме обучения обратным распространением сигнала ошибки

1.3.4. Алгоритм адаптивного самообучения без контроля учителя на основе самоорганизации карт Кохонена

1.3.5. Когнитрон и неокогнитрон Кунихико Фокушимы

1.3.5.1. Когнитрон Кунихико Фокушимы

1.3.5.2. Неокогнитрон Кунихико Фокушимы

1.3.7. Нейроматематика

1.3.7.1. Алгоритм генерации структуры нейронной сети для решения прикладных математических задач на основе формирования функционала энергии ошибки

1.3.7.2. Синтез нейронной сети для решения систем линейных уравнений (СЛУ)

1.3.7.3. Синтез нейронной сети для решения систем линейных неравенств (СЛН)

1.3.7.4. Синтез нейронной сети для решения задачи поиска матрицы обратной к заданной матрице

1.3.7.5. Синтез нейронной сети для решения задачи сортировки значений массива по возрастанию или по убыванию

1.3.7.6. Синтез нейронной сети для решения задачи комбинаторной сложности － задачи коммивояжера

1.3.7.7. Синтез нейронной сети для решения задачи выявления новизны на изображении

1.3.7.8. Синтез нейронной сети для решения задачи инвариантной обработки изображений

1.3.7.9. Синтез нейронной сети для оптимизации топологии вентильных групп на основе квантовых клеточных автоматов (ККА－QCA) (М.В. Степанов, 2016)

1.3.7.10. Статистический синтез планово-экономических систем на базе самообучающихся МНС Кохонена

1.5. Этические вопросы и вызовы, связанные с развитием ИИ

1.6. Что на самом деле с этикой в ИИ: Игорь Ашамов об Эрике Шмидте

Глава 2. Основы алгоритмов машинного обучения

2.1. Виды обучения

2.1.1. Обучение с учителем － адаптивное обучение многослойных нейронных сетей обратным распространением сигнала ошибки для кластеризации информации － метод градиентного спуска

2.1.2. Обучение без учителя － самообучение на основе нейронных сетей с тормозящими латеральными синапсами － карт Кохонена для кластеризации информации

2.1.3. Обучение с подкреплением

Глава 3. Глубокое обучение и нейронные сети

3.1. Введение в глубокое обучение и нейронные сети. Архитектуры нейронных сетей

3.1.1. Многослойные персептроны (MLP)

3.1.1.1. Входной сигнал, выходной сигнал, целевой сигнал, сигнал ошибки

3.1.1.2. Функционал энергии ошибки

3.1.1.3. Описание «нейронной сети» как математического алгоритма

3.1.1.4. Гладкая дифференцируемая функция активации － порогового нелинейного преобразования

3.1.1.5. Модификация адаптивных весовых коэффициентов синапсов последнего слоя нейронной сети

3.1.1.6. Рекуррентная формула для модификации весовых коэффициентов синапсов предыдущих слоёв нейронной сети

3.1.1.7. Алгоритм адаптивного обучения под контролем учителя многослойной нейронной сети (персептрона)

3.1.1.8. Стохастический градиентный спуск

3.1.2. Сверточные нейронные сети (CNN).

3.1.2.1. Функции активации (ReLU, сигмоидальная)

3.1.2.2. ConvNet

3.1.2.3. AlexNet

3.1.2.4. VGG

3.1.2.5. Inception/GoogleLeNet

3.1.2.6. ResNet

3.1.2.7. ImagreNet

3.1.2.8. DenseNet

3.1.2.9. SqueezeNet

3.1.2.10. MobileNet

3.1.3. Рекуррентные нейронные сети (РНС)

3.1.3.1. Структура и алгоритмы обучения и работы рекуррентных нейронных сетей (РНС)

3.1.3.2. Обработка последовательностей

3.1.3.3. Распространение ошибки в РНС

3.1.3.4. Долгая краткосрочная память (LSTM)

3.1.3.5. Модернизация долгой краткосрочной памяти (GRU, MUT1)

3.1.3.6. Долгая память в РНС (SCRN)

3.1.3.7. Порождение текстов символ за символом

3.2. Применение нейронных сетей в задачах

3.2.1. Распознавание образов

3.2.2. Обнаружение движения целей в заданном диапазоне скоростей (М.В. Степанов, 2020)

3.2.3. Анализ временных рядов

3.2.3.1. Применение нейросетевого алгоритма для стабилизации иглы сканирующего туннельного микроскопа

3.2.3.2. Использование многослойной нейронной сети для предсказания изменения рельефа исследуемой поверхности и оперативного выбора оптимального стартового положения иглы зонда нанотехнологической установки (НТУ)

Глава 4. Частотно-импульсное кодирование в реальных живых нервных системах

4.1. Кодирование информации в центральной нервной системе

4.1.1. Кодирование информации в центральной нервной системе

4.1.2. Основные способы и варианты кодирования

4.2. Кодирование информации в сенсорных системах

4.2.1. Кодирование информации

4.2.2. Коды нервной системы

4.3.3. Кодирование и декодирование

4.2.4. Кодирование качества

4.2.5. Кодирование интенсивности

4.2.6. Пространственное кодирование

4.2.7. Временное кодирование

4.3. Нейронное кодирование

4.3.1. Нейронное кодирование

4.3.2. Обзор

4.3.3. Кодирование и декодирование

4.3.4. Предполагаемые схемы кодирования.

4.3.4.1. Модели нейронных спайков.

4.3.4.2. Модель кодирования скоростью

4.3.5. Темпоральный код

4.3.6. Кодирование фазой спайков

4.3.7. Популяционный код

4.3.8. Корреляционное кодирование

4.3.9. Разреженность кода

4.3.10. Итоги моделей нейронных спайков

4.3.11. Симфонический нейронный код

4.3.12. Перспективы

4.4. Потенциа́л де́йствия

4.4.1. Потенциа́л де́йствия

4.4.2. Фазы потенциала действия

4.4.3. Распространение потенциала действия по немиелинизированным волокнам

4.4.4. Распространение потенциала действия по миелинизированным волокнам

4.4.5. Активные свойства мембраны

4.4.6. Проводимость для калия GK на единицу площади [S/cm²]

4.4.7. Проводимость для натрия GNa на единицу площади [S/cm²]

4.5. Информационная функция нервной системы

4.5.1. Процесс восприятия сигнала

4.5.2. Способы кодирования информации

4.5.3. Кодирование информации о силе и качестве раздражения

4.5.4. Скорость и надёжность передачи информации

4.5.5. Количество информации

Глава 5. Аналоговые и оптические реализации нейрокомпьютеров

5.1. Аналоговые реализации нейрокомпьютеров на базе интегральных микросхем операционных усилителей (ИМС ОУ) аппаратно реализующий МНС (персептрон)

5.1.1 Аналоговый нейрокомпьютер Фрэнка Розенблатта Mark-1

5.1.2. Бернард Уидроу, М.Е. Хофф, «Адаптивные переключающие схемы» (1960)

5.1.3. А.И. Галушкин. Аналоговые ЭВМ и цифро-аналоговые ЭВМ (ЦВМ-АВМ) аппаратно реализующая трёхслойную нейронную сеть — аппаратная реализация многослойного персептрона на интегральных микросхемах операционных усилителей (ИМС ОУ) — на базе элементов нейронной и пороговой логики

5.1.4. Частотно-импульсная модуляция (ЧИМ)

5.1.5. Аппаратная реализация частотно-импульсной модуляции (ЧИМ) на основе мемристоров

5.2. Оптоэлектронная реализация нейрокомпьютера на базе оптоэлектронного нейрочипов

5.2.1. Исторический обзор оптоэлектронных нейрокомпьютеров.

5.2.2. Оптоэлектронная реализация нейрокомпьютера на базе оптоэлектронного GaAs нейрочипа Mitsubishi

5.2.3. Оптоэлектронная реализация нейрокомпьютера на базе оптоэлектронного Si нейрочипа Yu

5.2.4. Оптоэлектронная реализация нейросети Хопфилда с фиксированными значениями весовых коэффициентов связей на базе 2D чипа на основе аморфного кремния a-Si

5.3. Оптическая реализация нейрокомпьютеров

5.3.1. Исторический обзор оптических нейрокомпьютеров.

5.3.2. Оптическая реализации адаптивно обучаемой однослойной нейросети с полными обратными связями на базе ПВМС — нейросети Хопфилда

5.3.3. Оптическая реализация двухслойной нейросети с фиксированными весовыми коэффициентами синапсов на базе оптического коррелятора, ПВМС и плоских 2D голограмм (Demetri Psaltis, Nabil Farhat, 1987)

5.3.4. Каскадируемый оптический модуль аппаратно реализующий слой нейронной сети с 2D входными и 2D выходными сигналами (изображениями) (М.В. Степанов, 1996)

5.4. Реализация нейрокомпьютера на пластине.

Глава 6. Цифровые реализации нейрокомпьютеров

6.1. Цифровые реализации нейрокомпьютеров на базе транспьютеров Inmos T805 («Геркулес»), TMS320, СБИС, ПЛИС, БМК

6.1.1. Одноплатный нейрокомпьютер «Геркулес» на основе каскадируемого транспьютера T805 и советских БИС ОЗУ и БИС ПЗУ в качестве памяти значений весовых коэффициентов для адаптивно обучаемой нейронной сети

6.1.2.. Нейрокомпьютеры фирмы Hughes аппаратно реализующие адаптивно обучаемую нейронную сеть на целой пластине без разрезания её на отдельные чипы

6.1.3. Нейрокомпьютеры с массивно параллельной архитектурой на основе TMS320, СБИС, ПЛИС, БМК

6.2. Нейрокомпьютеры на основе многоядерных CPU и GPU (массивно параллельная программная реализация многослойных нейронных сетей с глубоким обучением на основе математических функций библиотек CUDA)

6.3. Нейрокомпьютеры на основе нейрочипов NeuroMatrix NM6403 (Л1879М1) －NM6408 (К1879ВМ8Я). (НТЦ «Модуль»).

6.4. Нейросетевые системы управления. Система интеллектуального видеонаблюдения на основе обработки изображений и распознавания образов – TrafficMonitor-E (TME)

6.4.1. Постановка задачи интеллектуального видеонаблюдения

6.4.2. Пример эффективного решения

6.4.3. 4-х процессорное устройство видеообработки ВМ1

6.4.4. Мезонинный модуль видеоввода МЦ4.05

6.5. Нейрокомпьютеры на основе СБИС Эльбрус-8С (1891ВМ10Я), Эльбрус-8СВ (1891ВМ12Я), Эльбрус-12С (К1891ВМ058), Эльбрус-16С (1891ВМ038), (АО «МЦСТ»)

6.6. Российский нейроморфный процессор «Алтай» (AltAI) (АО «Лаборатория Касперского», АО «Мотив НТ»)

6.7. Нейропроцессор Huawei Ascend 910 для обучения ИИ на основе МНС (КНР).

6.8. СБИС для обнаружения аномального сердцебиения с использованием нейронной сети со сдвигом данных (DSNN). (КНР, Тайвань)

6.9. Нейрокомпьютеры на основе наноэлектроники

Глава 7. Искусственные сетчатки аппаратно решающие задачу обеспечения инвариантности к уровню освещённости и аппаратной сегментации изображения

7.1. Оптоэлектронная реализация нейрокомпьютера на базе оптоэлектронного GaAs нейрочипа фирмы Mitsubishi для параллельной сегментации изображений

7.2. Швейцарцы использовали в системе технического зрения робота "кремниевую сетчатку"

7.3. Прямоугольная кремниевая сетчатка тракинг-чипа (Visual Tracking Chip) – искусственная сетчатка для детектирования направления движения

7.4. Циркулярная кремниевая сетчатка антропоморфного видеосенсора (Anthropomorphic Video Sensor)

7.5. Прямоугольная кремниевая сетчатка Instituto de Microelectronica de Sevilla-CNM-CSIC, Spain. 2000.

7.6. САПР для проектирования СБИС сетчаток, которые репродуцируют сигналы зрительного нерва. University of Pennsylvania, Philadelphia, PA, USA. 2006.

7.7. Искусственная сетчатка как протез глаза. Manchester Royal Eye Hospital. UK. Second Sight Medical Products. University of California at Santa Cruz. USA. 2009.

Литература

Список сокращений

Введение

Введение

Во второй половине 20-х годов XXI века искусственный интеллект (ИИ) стремительно ворвался, как кажется, во все сферы повседневной жизни, от пионеров, то есть, школьников, которые делают с помощью ИИ домашние задания, до пенсионеров, которым предлагают с помощью ИИ обеспечить себе добавку к пенсии. На первый взгляд, ИИ — суперсовременное научно-техническое направление в индустрии информационных технологий (ИТ), однако у ИИ уже имеется длительная история научного развития математических моделей и методов обучения и самообучения многослойных нейронных сетей (МНС), а также развития технических средств и технологий для аппаратной реализации МНС, которую полезно знать для овладения методами и возможностями ИИ, хотя бы для расширения кругозора и понимания возможных направлений развития этой отрасли ИТ.

Принято считать, что начало исследованиям НС положено статьёй У.С. Мак-Каллока, У.В. Питтса, «Логическое исчисление идей, относящихся к нервной активности», опубликованной в 1943 году. Иногда начало относят вообще на 1906 год, когда итальянец физиолог Камилло Гольджи и испанец гистолог Сантьяго Рамон-и-Кахал стали лауреатами Нобелевской премии 1906 года по физиологии и медицине за открытие метода окраски препаратов нервных тканей, что позволило наблюдать эти самые нервные ткани под микроскопом и получить чёткие фотографии нейронов и синапсов. Как бы то ни было, а развитие вычислительной техники в 1940–1990-е годы XX века всё время шло при большом желании изготовить «мыслящую машину», которая бы хотя бы частично воспроизводила бы способности мозга обрабатывать трудноформализуемую неструктурируемую информацию. Самые радикальные исследователи замахивались на воспроизведение функций человеческого мозга и человеческого мышления. Исследователи с более трезвым пониманием вопроса приходили к выводу, что для большинства практических задач в ближайшие 100 лет вполне хватит воспроизведение мозга и уровня мышления насекомых — для автономного управления движением современных дронов: беспилотных летательных аппаратов (БПЛА), необитаемых подводных лодок (НПЛ), сверхмалых космических аппаратов (СМКА), наземных роботизированных транспортных комплексов (НРТК) — решения задач прокладки оптимального маршрута, поиска целей и распознавания образов вполне хватает интеллектуальных способностей жука, пчелы или осы.