Вопросы воли

Вопросы воли

Силы человека безграничны, а бессилие — лишь результат недостатка воли. Это справедливо для любой деятельности, но в работе, которая не требует физических усилий, это особенно заметно.

Казалось бы, что сложного в написании простой функции? Однако неизбежно наступает момент, когда ты не в состоянии это сделать. Тогда начинается: почту надо проверить, а какая погода будет завтра, а чего в чатиках нового. А может за это время на почту письмо пришло? Одно и то же ощущение, знакомое с первых лет студенчества: перед тобой лежит отбойный молоток который невозможно взять в руки. Не потому, что тяжело. Потому, что помнишь ощущение, которое за этим последует. Треклятый подвал на Шпалерной полон пыли и бетонной крошки, но совершенно не расширяется.

Любопытно в этот момент изучать влияние смены деятельности. Бросить отбойник и взяться за мешки с бетонными обломками. Или плюнуть на функции, засев за литературу. Усталость не пропадет, но окажется, что силы еще есть. Если вы устаете на работе, то один вариант из двух: либо работа ваша — полная хрень, либо вы не умеете контролировать свою префронтальную кору. Все грешат на работу и за это сложно винить. Фраза «работа нормальна, но я неадекватен» звучит сомнительно, особенно когда звучит на собеседовании.

Казалось бы, важен лишь результат работы. Какая за него отвечает кора, префронтальная или березовая — вообще наплевать. За ошибки будем наказывать, а за успехи обещать премировать. Неразрешенным остается лишь один вопрос. Все понимают, что необходимо для успеха, но процесс все равно идет через жопу. Какого черта?

А ведь это очень похоже на обучающее моделирование. Подключаем тензорфлоу или другую неведомую хренотень, выбираем активационную функцию из советов на СтекОверфлоу и рассуждаем на планерках о дефиците мощности серверов. Какая разница, что там происходит во время обучения с коэффициентами?

Но если представить, хотя бы в порядке бреда, что коэффициенты полинома во время обучения изменяются не как попало, лишь бы снизить производную функции ошибки, а в соответствии с некоторыми правилами? Представим полиномиальную модель в виде клеточного автомата из ячеек, которые образованы коэффициентами полинома. При каких условиях образуются ружья, планеры и прочие структуры? Как влияет поведение коэффициентов на время обучения и достоверность модели? Толком никто на эти вопросы не отвечает. При том, что идея клеточных нейросетей не нова, а сама мысль изучения структурной организации коэффициентов настолько очевидна, что даже неловко об этом говорить: ощущение, словно публикую знаменитые цитаты Стэтхэма.

Ну не могу я написать эту функцию сейчас. Разве это плохо? Зато я могу сейчас подумать о структуре Госпера в диатропической модели эволюции, одушевлении абстракций или содержании философского трактата: «Мир как воля и представление коэффициентов клеточного автомата». Тем более, существуют вопросы такой глубины, что даже теоретическая возможность однажды над ними подумать приносит наслаждение и решимость повторно открыть редактор.

Аналитические способности

Аналитические способности

Поздняя осень — самое благоприятное время для оценки своих аналитических способностей. Налейте в термос горячего чаю, оденьтесь потеплее и шагайте вдоль реки или поля пока не увидите мурмурацию — стаю птиц в виде большого подвижного облака. Зрелище завораживает, но давайте в рамках анализа посмотрим на детали.

С тех пор как Рейнольдс в 1987 году предложил классическую модель мурмураций, мода на изучение согласованных движений постоянно растет. В девяносто пятом появилась модель Вичека, в две тысячи седьмом модель Кукера-Смейла — наиболее популярная сегодня. Кукер и Смейл описали мурмурацию как набор объектов, каждый из которых выбирает собственную скорость на основе средневзвешенной разницы в скоростях соседей, а вес каждой оценки зависит от удаленности соседей от объекта.

Дополнения к модели Кукера-Смейла публикуют каждый год. Тут вам и система с иерархиями, и топология переключения, и прочие математические экзерсисы. Не то, что-бы полет птиц всех уж так завораживал, тут скорее интересы практического рода: модель Кукера-Смейла оказалась крайне важной в теории машинного обучения.

Когда мурмурирующее облако захватывает преграду, часть птиц перестает видеть соседей, что можно представить как потерю пакета данных. Изучение этого вопроса Сетинкаем, Иши и Гаякавой в 2017 году пригодилось в области кибербезопасности и сетевом управлении динамическими системами. Да кто из нас не видел съемок группового запуска дронов и не слышал истории о миллионах беспилотных автомобилей на дорогах.

Если не рассматривать популярность, что остается общего между клеточным автоматом Крейга Рейнольдса, машинным обучением, теорией детерминированного хаоса, фрактальной геометрией Мандельброта и даже гладкими отображениями Уитни? Ничего из перечисленного не использует концепцию анализа. Новая парадигма исследований — синтез. Не разбить сложный объект на множество простых, а из простых объектов собрать сложный. И не просто сложный, а сложный эмергентно, то есть обладающий свойствами, которые нельзя получить сложением свойств составляющих объект частей.

Монополия аналитиков завершается. Это не значит, что они исчезнут, но и главными не будут. Если бы вместо данных мы говорили про кирпичи, пришлось бы признать: ситуация, при которой на каждого умеющего строить дом приходятся сотни тех, кто умеет дома разбирать, склонна к изменениям.

На практике это приведет к тому, что придя на работу в качестве специалиста по анализу данных вы услышите неожиданный ответ: «Анализировать у меня и секретарша может, ты мне данные синтезируй». А все почему? Правильно — за птицами надо было наблюдать.

Мысль о структурах

Мысль о структурах

Разглядывал старый снимок, невесть когда сделанный зимой из вертолета. На снимке пойма реки в Западной Сибири, уже и не помню какой (если кто подскажет — буду благодарен). Но дело даже не в снимке и не в реке.

Размышляя о различиях в структурных формах, образованных аллювиальными, делювиальными, пролювиальными, элювиальными и прочими процессами неизбежно вспоминаешь похожие визуальные образы. Это наталкивает на главный вопрос: возможно ли встретить среди устойчивых структур любую произвольную комбинацию элементов? Или даже больше: как связана динамика системы с ее структурой?

Нет, я не о гистограммах Шноля говорю. Это исследование удивительно и вызывает массу сомнений, особенно в части объяснения. Я скорее предполагаю, что в природной среде существуют структуры, устойчивость которых не зависит от их физической природы. Это может быть русло реки, ветвь дерева, сосулька, трещина — все что угодно, но при наличии определенной формы можно заранее предсказать дальнейшую динамику этой структуры. Нечто вроде планера из клеточного автомата Конвея.

Если подойти более практично, то вопрос можно рассмотреть в области дешифрирования спутниковых снимков. Очевидно, что рядом с произвольно выбранным пикселем можно встретить пиксель произвольной яркости. Но если мы возьмем больший охват, верно ли будет утверждение о том, что какую бы область на снимке мы не взяли, в ней всегда существует ненулевая вероятность встретить произвольную комбинацию пикселей? На первый взгляд ответ очевиден — конечно да, может быть какая угодно комбинация. Но если вдуматься, это утверждение равносильно мысли о том, что открыв свежий Сентинель вы прочитаете на нем свое имя и рассказ про то, как с велосипеда упали.

И потом, разве не указывает мысль о равной вероятности появления любой структуры на хаос в системе? С другой стороны, я давно шучу о том, что любое значение яркости пикселя следует воспринимать вероятностно, подобно атомной орбитали. Все потому, что разглядывая пиксель самого свежего снимка вы уже влияете на актуальное значение яркости. Незначительно влияете, но в нашем мире детерминированного хаоса размер вообще значения не имеет.

Тут мысль переключается на алеатику и размышления Б.В. Гнеденко о природе вероятности, но пожалуй все это необходимо жестко пресечь. Тем более, только что вспомнил: этот снимок я сделал в ванной после того как лодку мыл.