Бруно Адольфус Олшавсен — американский нейробиолог и профессор Калифорнийского университета в Беркли, известный своими работами по вычислительной неврологии, науке о зрении и методам скудного кодирования. В настоящее время он является Профессором Института Невронаук Хелен Уиллс и Школы оптометрии при университете Беркли; также имеет связанное назначение в области электротехники и компьютерных наук.Он занимает должность Директора Центра теоретической неврологии Редвуд (Redwood Center for Theoretical Neuroscience).
Ольхаузен получил степень бакалавров и магистра в области электротехники Стэнфордского университета, соответственно, в 1986 и 1987 годах. В 1994 году он защитил докторскую диссертацию по вычислительным системам Калифорнийском технологическом институте (Caltech). После этого работал пост-докторантом на кафедре психологии Корнеллского университета и в Центре биологических и компьютерных исследований Массачусетс Инститьют Технологии.В разные годы он занимает следующие должности:Ассоциированный Профессор (1996-2001), Департамент психологии, Университета Калифорнии в ДэвисеДоцент (2001–2005) и профессиональный сотрудник Центра невронаук Хелен Виллс и Школы оптометрии при Беркли.Профессор с 2010 года, Институт Невронауки и Школа Оптики Университета Калифорнии в Беркли.
Основные направления исследований Ольхаузена связаны с изучением стратегий обработки информации зрительной системой для задач распознавания объектов, анализом изображений и пониманием принципов работы мозга. Его подход включает как экспериментальные исследования нейронных ответов, так и математическое моделирование функциональной теории зрения.Его работа направлена на углубление знаний о работе нервной системы и разработку алгоритмов для анализа изображений с использованием биологических принципов. Он также внес вклад в развитие технологий, таких как методы обработки сигналов, новые подходы к обучению без обратного распространения (backpropagation), модели памяти и компрессии данных.=
Одним из ключевых достижений Ольхаузена является демонстрация того, что принцип скудного кода может объяснить свойства нейрональных ответов в зрительной коре. Его работа 1996 года совместно с Дэвидом Джеймсом Филдом (David J. Field) была опубликована в журнале Nature.\nField показал, как простые клетки в коре V1 могут формировать свои рецептивные поля из обучения скудному коду для естественных изображений. Этот документ основан на двух предыдущих отчетах, которые предоставили дополнительную техническую информацию.\nВ статье утверждается, что простые клетки имеют Габоровские (Gabor-like) локализованные и ориентировочные рецептивные поля. Раньше методы вроде обобщенного алгоритма Хебба давали Фурье-подобные поля без четкой направленности или локализации, но с использованием кода на основе редукции данных такие свойства могут возникнуть.\nКонкретно рассмотрим изображение \(I\) и набор рецептивных полей \(\phi_1,\dots,\phi_m\). Изображения можно представить как линейную сумму этих полей: \[ I ≈ ∑_{i} a_i φ_i. \]Если это так, то кодирование изображений может быть выполнено через вектор \( (a_1,...,a_m) \), что потенциально улучшает качество представления по сравнению с прямым кодом пикселей.\nАлгоритм работает следующим образом:\n- Инициируем все σ_i = 1\n- Устанавливаем λ на подходящее значение\n- Выбирается функция S(x) (может быть, например \(S(x)=|x|\), \(\ln(1+x^2)\) или \(-e^{-x^2}\))\nИтерация:\n- Берем случайную выборку изображений I\nДля каждого изображения в пакете решаем коэффициенты \(a(I)\), которые минимизируют функцию потерь:\[ L(a) := \|I - \sum_{i} a_i\phi_i\|^{2} + \lambda \sum_{i} S(\frac{a_i}{\sigma_i}) \]Определяем реконструированное изображение как сумму взвешенных признаков:\[ {\hat I}(I) = \sum_{i} a_i(I)\phi_i. \]Обновляем каждый признак с помощью обучения Хебба, где \(E\) — ожидание по всем изображениями в пакете и η — скорость обучения.\[ \phi_i \leftarrow \phi_i + \eta E[a_i (I - {\hat I})]\]Обновление каждого σ²i по формуле E[a²i] с уменьшением скорости обучения.Ключевой элемент алгоритма — функция потерь L(a): \(L(a) = \|I - \sum_{i} a_i\phi_i\|^2 + \lambda \sum_{i} S(\frac{a_i}{\sigma_i})\) Первый член отвечает за восстановление изображения, второй — за штраф на разреженность коэффициентов. Минимизация первого способствует точному реконструированию картинки; минимизируя второе слагаемое, получается вектор с большими нулями и малыми ненулевым значениям (разреженные линейные параметры). Параметр λ регулирует баланс между качеством восстановления изображения и разряженностью.Согласно статье 1996 года, Ольхаузен разработал теорию о том, что Габоровские фильтры в V1 кортексе выполняют оптимальное кодирование с избыточным набором базисов для изображений природной среды человека.