Кто такой Клод Шеннон и чем он знаменит История человека, создавшего Теорию информации

Именно Клод Элвуд Шеннон предложил самую меньшую единицу информации – бит в своей статье «Математическая теория связи». Фундаментальные единицы, понятия и определения, введенные им, равны тому вкладу, который сделал в геометрию Евклид, давший нам в своих началах понятия точки, прямой и плоскости, определения отрезка и окружности, сформулировавший главные аксиомы. Без него не состоялась бы теория вероятностных схем, не сложились бы теория игр, теория автоматов, теория систем управления – а все это составляет основы, на которых зиждется кибернетика. А еще он удивительным образом сочетал в себе теоретика и практика, и прекрасно владел не только словом и мелом у доски, но и слесарным и столярным инструментом. А еще – мало кто вспоминал его лицо без всегда обаятельной ирландской улыбки.

Биография Клода Шеннона

Детство

У юриста из штата Мичиган Клода Шеннона и его жены Мейбл 30 апреля 1916 года родился сын, которого назвали в честь отца. И отец был человеком образованным, и мама была учительницей иностранных языков, а потом директором школы. А дедушка был обычным фермером, но с цепким и острым умом. Он в своем хозяйстве придумал множество улучшений для сельскохозяйственной техники, а в помощь жене смастерил стиральную машину. Впоследствии выяснилось, что дальней родней Шеннону приходится сам Томас Альва Эдисон.

У него было обычное американское детство. Работать он начал с подросткового возраста (Клод был курьером в Western Union), и все свободное время что-то мастерил: модели самолетов на корде, игрушечную лодку на радиоуправлении, а с другом они и вовсе провели между домами телеграф, использовав в качестве провода ограду из колючей проволоки – между домами был ни много ни мало – полмили. Вскоре к нему стали обращаться с просьбами починить приемник или еще что-то, сначала соседи, а потом и местный супермаркет, где он чинил радиоточку и местную рекламно-музыкальную систему.

А любимой книгой, точнее, произведением – стал рассказ Эдгара Алана По «Золотой Жук»: ведь он целиком построен на расшифровке пиратского шифра!

Мичиганский Университет

Клод поступил в Университет в шестнадцать лет, и учился с полной отдачей: бакалавриат он закончил сразу по двум специальностям, теоретической и практической, математика и электротехника. В математике его кумиром надолго стал ирландский ученый Джордж Буль, стремившийся в своих трудах сочетать логику и математику. Клод зачитывался его книгами «Математический анализ логики», «Логическое исчисление» и «Исследование законов мышления». Это было своеобразной фрондой – долгое время Буля считали чудаков, а его алгебру «странной». Когда Шеннона спрашивали, зачем ему эта непонятная наука, он отвечал: «Вы только послушайте, как звучит! Boolean algebra!»

А практике он учился у знаменитого инженера Bell Laboratories Амоса Джоэля. Закончив учебу в Мичигане Клод устремился туда, где сосредоточились великие умы XX века, практически создавшие наш сегодняшний день.

Массачусетский Технологический Институт

Какие преподаватели и ученые там работали! Норберт Винер, Ванневар Буш, Фрэнк Лорен Хичкок, там можно было встретить всех великих гениев того времени – от Эйнштейна и Оппенгеймера до приезжего Нильса Бора.

Однако обучение и аспирантура в МТИ были не каждому по карману. И Клод решил устроиться в одну из лабораторий на работу, повесив на местную доску объявлений почтовую открытку «Молодой специалист из Мичигана хотел бы сотрудничать…» Сработало! В 1936 году он стал оператором «Дифференциального анализатора» Ванневара Буша – чтобы не вдаваться в лишние подробности назовем это устройство аналоговым компьютером. Для этой машины, опираясь на «странную алгебру» Буля, он создал оригинальные и очень остроумные коммутационные системы. Затем он написал магистерскую диссертацию «Символический анализ релейных и коммутационных схем». Великий Говард Гарднер позднее скажет: «Это, возможно, была самая главная, и самая отмеченная магистерская диссертация столетия». «Молодой специалист» доказал свое право на место в МИТ. А в 1940 году в этом же институте Шеннон уже защитил диссертацию доктора математики по теме «Алгебра для теоретической генетики» и стал сотрудником Института Перспективных Исследований в Принстоне. Теперь он обсуждал свою работу с Германом Вейлем, Джоном фон Нейманом, Куртом Геделем и Альбертом Эйнштейном. А ведь еще недавно, когда Эйнштейн вошел и что-то спросил у коллеги во время его доклада, он едва закончив выступление, бросился к тому: «Ну, о чем Эйнштейн спрашивал?!» И получил в ответ: «Спросил, где у нас лежит чай». Он сам любил вспоминать эту историю, с неизменной улыбкой.

В своих работах предвоенного времени Шеннон применял свои методы в самых разных сферах. И уж точно не мог не задуматься об универсальности своих разработок.

II Мировая война

Клод Шеннон внес весьма значительный вклад в победу над гитлеровской Германией. В Bell Labs он разрабатывал системы управления огнем и криптографией по контракту с секцией D-2 (отделом систем управления) Национального комитета оборонных исследований NDRC.

В начале 1943 года он два месяца работал вместе с Аланом Тьюрингом, приехавшем из британского Блетчли-Парка. Тьюринг показал Шеннону свою работу 1936 года, Шеннон обрадовался, что вел исследования в одном направлении с британцем. Но тот ему не поверил. «Он почему-то не всегда верил в мои идеи» - написал Шеннон позднее.

А в 1945 году, уже незадолго до окончания войны, Клод Шеннон, Ральф Биб Блэкман и Хендрик Уэйд Бод написали отдельную главу для книги «Управление огнем», где рассматривали проблему отделения шума от сигнала в системах связи, она называлась «Сглаживание данных и прогнозирование в системах управления огнем». Многие считают эту часть книги первым манифестом информационной эпохи.

Чем знаменит Клод Шеннон

Теория информации

В 1948 году Шеннон опубликовал работу «Математическая теория связи» в двух номерах журнала Bell Systems Technical Journal. В ней он раскрыл способы наилучшей кодировки информации, предназначенной для передачи. Здесь он ввел понятие информационной энтропии, как среднего уровня неопределённости, присущего возможному влиянию переменной. Сообщение по Шеннону должно сужать меру неопределенности. Так родилась значительная область теории информации.

Позднее эта статься появилась в книге «Математическая теория связи», в которой американский математик Уоррен Уивер дал ее адаптацию для обычного читателя - неспециалиста. По его упрощенному определению, информация в теории коммуникации больше привязана не к тому, что человек говорит, а к тому что мог бы сказать. Таким образом, информация становится мерой свободы человека при выборе содержания сообщения.

Теория информации объединила прикладную математику, радиотехнику (в части приема и обработки сигнала) и информатики. Теория базируется на математических моделях. В основе лежат теория вероятности и математическая статистика (в МТИ глубже всех проработкой этих областей для данной темы занимался Норберт Винер). Круг задач теории информации Клод Шеннон обозначил схемой:

Источником информации становится любой объект, инициирующий сообщение, перемещаемое во времени и пространстве.

Системы информации Шеннон поделил на несколько частей:

- Источник информации.

- Передатчик.

- Канал.

- Приёмник.

- Пункт назначения

Затем последовала работа «Предсказание и энтропия печатного английского текста», в которой Шеннон заложил базу языкового анализа, и обозначил направления развития обработки естественного языка и компьютерной лингвистики. В этой статье он назвал важнейшей буквой английского алфавита 27 букву (!) – пробел.

Теория связи секретных систем

В 1949 году появилась в печати рассекреченная часть его работы «Теория связи секретных систем». Предложенный Шенноном криптографический разовый блокнот невозможно было взломать, Шеннон математически доказал, что гарантированная от взлома система обладает всеми свойствами такого блокнота: ключ может быть только случайным, размером соответствовать зашифрованному тексту и никогда не использоваться повторно.

Механическая мышь «Тесей»

Помимо теоретических выкладок, Шеннон был и выдающимся практиком и изобретателем. К компьютерной мыши это изобретение Шеннона не имеет отношения. Это механическое самообучающееся устройство, названное в честь античного греческого героя, победившего Минотавра и сумевшего найти из его лабиринта обратный путь. В деревянном корпусе был размещен постоянный магнит с высунутыми наружу проводящими усиками. Прибор перемещался по лабиринту из 25 квадратов, разделенных алюминиевыми стенками, которые можно было двигать, создавая каждый раз новый лабиринт, а внизу размещалась система электромеханических реле. Замыкаясь на стенку усиками, магнит ощущал препятствие. По заданному ему алгоритму, «Тесей» находил выход, и второй раз, уже не ошибаясь, находил выход с любого места, где уже побывал. Если расположение стенок меняли, «Тесей» снова переобучался.

THROBAC I 

Среди множества оригинальных и занятных гаджетов, которых Шеннон придумал и изготовил великое множество, особое место занимает компьютер THROBAC. Он уникален тем, что вычисления производил… римскими цифрами. Пожалуй, этого не переплюнут ни фрисби с ракетным двигателем, ни устройство, собирающее кубик Рубика – а Шеннон соорудил и такие.

Интересные факты о Клоде Шенноне

Личная и частная жизнь Клода Шеннона ничем особенно не примечательна. Как и многие, он не сразу сумел обрести личное счастье – первый брак с Нормой Левор оказался взаимной ошибкой, и супруги расстались менее, чем через год. А 27 марта 1949 года Шеннон женился на Бетти – Мэри Элизабет Мур, с которой познакомился в Bell Labs. Тут совпали и интересы, и взгляды на жизнь, счастливый брак принес троих детей - Роберта Джеймса, Эндрю Мура и Маргарет Кэтрин.

После 60-ти лет он постепенно начал сворачивать свои научные проекты, а в 1978 году вышел на пенсию, объясняя решение тем, что ученый должен быть молодым – именно в молодости делаются самые интересные и главные открытия. Потом уже не так интересно.

На пенсии Шеннон весело хулиганил в домашней мастерской, создавая всякие смешные машинки и приборчики, и даже соорудил машину, жонглировавшую тремя металлическими шарами и одетую в костюм комика Уильяма Филдса. Его очень интересовало, как дифференцировать портфель инвестора наилучшим образом, распределить активы. И даже как выигрывать в рулетку, для чего тоже была создана им специальная штуковина. Он утверждал, что испытал ее, и что вещица подсказывала верную ставку в 44% случаев – но никто ее так и не видел. Известно то, что он так и не разбогател, хотя и беден не был. А вот данные о пенсионных фондах собирал увлеченно.

В 1985 году его уговорили выступить на Международном симпозиуме по теории информации в Брайтоне. Сначала его… не узнали. Затем он на банкете произнес не то короткую речь, не то долинный тост, жонглировал тремя мячиками, а когда собравшиеся поняли, кто перед ними – раздал несколько сотен автографов. Кто-то сказал: «Все равно что на симпозиум по физике явился сэр Исаак Ньютон!»

Финал был неожиданным. Постепенно один из величайших умов столетия угас под воздействием болезни Альцгеймера. Он тихо скончался в доме престарелых, куда был помещен для исследования этой болезни. Семья до самого конца не покидала его.

Читайте также историю создателя кибернетики Норберта Винера: