ИВАН БУТАКОВ

Интервью IPClub. ФУПМ, ШАД, дважды магистрант, дважды аспирант, лауреат Yandex ML Prize 2024

1. Про школьные годы, олипмипиады, поступление и МФТИ
- Первый вопрос про то, где ты учился. На Физтех не каждый поступает, согласись. ... Я видел, у тебя есть олимпиады. Как ты поступал в МФТИ по олимпиадам? Можешь чуть так рассказать? Там есть перечневые и ещё что-то?
- Да, есть перечневые, есть Всерос. В общем, в какой-то момент мама взяла на себя роль персонального менеджера и начала меня долбить: съезди туда, съезди сюда, напиши это, напиши то, надо поступать, надо что-то выиграть.
- В каком классе это было уже?
- Я, наверное, очень поздно этим начал заниматься — это был, наверное, только девятый класс. Обычно олимпиадников готовят гораздо раньше, уже с пятого класса. По математике, может, ещё раньше. Я в это включился поздно, но тем не менее, поскольку я ходил на кружки по физике и математике в Логос, определённые знания были. И в общем я начал ездить на все эти перечневые: на Физтех, Росатом, «Покори Воробьёвы горы!», всесибирскую, Мосфиз.
- Звезда?
- А, да, была — отдельная. Я, по-моему, в Смоленск ездил, чтобы её писать.
- И была ещё просто всеросная.
- Да, Всероссийская олимпиада школьников по физике — я в ней участвовал и в итоге в одиннадцатом классе взял призёра по физике. Понятно, что самая котируемая олимпиада — это Всероссийская. Все хотели её взять, она давала БВИ сразу. А по перечневым надо было всё время смотреть: могло давать БВИ, могло — не знаю, 100 баллов просто по предмету. Плюс были разные условия. Я честно не знаю, как сейчас, и даже не точно помню, как было тогда. Но что-то по типу: тебе не дают эти 100 баллов, если ты по ЕГЭ набрал меньше 75. Такие условия. В общем, этих условий очень хотелось избежать, чтобы было прямо гарантийное бронебойное поступление. Поэтому все хотели взять всерос.
Со всеросом у меня сначала не ладилось: в девятом классе я вообще не прошёл даже на финал, и в десятом тоже не прошёл. Это был в некотором смысле момент а-ля it's over, потому что проще всего всерос по физике взять в девятом классе — там просто темы проще. Понятно, что ты как школьник меньше знаешь, но непропорционально это было. В одиннадцатом классе уже надо было знать какой-то матан, уметь решать дифуры в каком-то виде, и шансов было меньше. Конкуренция тоже уже была выше, потому что туда обычно приходили такие люди: если человек, например, взял всерос в девятом классе, его берут в оборот, начинают готовить к межнару в специальных лагерях. Потом он и в десятом классе попадает на всерос и что-нибудь занимает, потом в одиннадцатом тоже попадает на всерос, тоже что-нибудь занимает. Короче, с каждым годом конкуренция всё больше, и шансов у нового человека что-то занять — меньше. Но тем не менее в одиннадцатом классе получилось пройти. От моей области прошли три человека: Никита Молотилов, я и Андрей Гладков. А по итогу только я, к сожалению, взял призёра — ребята были сильные, но немножечко не дотянули, по-моему.
Когда я взял всерос, я уже понимал, что тогда никаких проблем с поступлением не будет. У меня были и до этого перечневые — я, если честно, уже не помню, по чему я победитель, по чему призёр. Но по Физтеху я был победителем, это уже давало что-то хорошее, почти гарантированное поступление. В общем, я тогда не особо беспокоился, а с всеросом все сомнения отпали вообще. Я спокойно сдал ЕГЭ и начал процедуру поступления.

- Всерос тебе давал поступление в любой вуз или ...
- Ну, по профилю, который хоть как-то с физикой связан.
- То есть в Вышку ты бы не попал?
- В Вышке же был факультет по физике, по-моему. Я припоминаю, что когда я поступал, была такая драма: в Вышке сделали факультет, связанный с физикой, туда перешли сильные преподаватели с ФОПФа, но у этого факультета не было тогда, что ли, аккредитации. То есть если ты как мужчина туда поступаешь, тебя могут, типа, в армию забрать.
- Сомнительно.
- Поэтому в итоге, что ли, набор был типа все девушки, кроме одного человека. Как-то так. Короче, в Вышку тоже можно было бы, наверное, на какую-нибудь прикладную математику тоже. Я честно уже не помню, тут надо смотреть: все эти факультеты, все вузы выкладывают правила, как всё считают, и можно однозначно определить, можно или нельзя. Но меня интересовал больше всего Физтех — у меня было такое туннельное зрение: Физтех. Более того, я конкретно хотел на факультет общей и прикладной физики (ФОПФ), потому что после всех этих лет олимпиад мне очень нравилась физика. Я, конечно, олимпиады по математике тоже писал и что-то там выигрывал или брал призёра, но такого успеха, чтобы, например, на всерос по математике пройти и что-то занять, у меня не было. В целом я по-другому устроен: обычно, если тебе покажут олимпиадника по математике, ты это сразу поймёшь. Это не оскорбление, ничего, просто они увлекаются немножко другим — им нравится постоянно решать задачи и всё такое. А мне в математике больше нравится приложение к физике, какой-то матмод и так далее. Поэтому я изначально не фанател по всему этому. В общем, по всем этим причинам я в итоге хотел на ФОПФ.

- Ты про ФОПФ узнал ещё в школе?
- Да, потому что у нас вот в этом центре Логос, как раз ...
- «Центр» — это школа или не школа?
- Это было не на базе школы, такое частное. Директором, можно сказать, был Сергей Кокарев. Он сам занимается физикой, общей теорией относительности и еще много чем, и он сделал этот центр — платные занятия по физике и математике. Было что-то ещё по пайке, радиотехнике, но потом это вроде пропало.
- Тоже в девятом классе?
- Не, я туда, кажется, в восьмом классе начал ходить.
- Ну, короче, классный центр.
- Да, и старшеклассники, которые выпускались, массово шли на ФОПФ и всё это рекламировали, и я такой: «О, лучший вообще факультет по физике в России».
- А в школе такого не было, типа какой-то тоже рекламы?
- В школе больше рекламировали индустриальные вещи. Я учился, можно сказать, в топ-2 школе моего города. Топ-1 — это 33-я школа, где как раз учился Андрей Гладков. Он, кстати, сначала учился в моей школе. А 33-я как раз сильная по математике, оттуда многие тоже олимпиадники были и прочее.
А я учился в 86-м лицее, и там упор всё-таки был на разные предприятия: я не знаю, Янос — это нефть, нефтепродукты, всякие пластмассы. Потом что-то было с химией, с фармой — Р-Фарм, по-моему.
- Спонсоры, типа?
- В общем, не знаю, они рекламировались как такие конечные точки карьеры после школы — можно было туда идти. Но мне это как-то не сильно было интересно. Если ты хочешь туда идти работать, ты потом выбираешь соответствующий вуз: либо ЯрГУ, либо технический университет, что-то такое. Меня это не сильно заинтересовало. Меня интересовала физика, поэтому я хотел на физику куда-то.
- Короче, ты выбрал Физтех?
- Да.
- Звучит логично.
- Там был ещё один мем: я на всякий случай подавал не только в Физтех, но и на физфак МГУ. Я туда приехал, дал свои документы — не оригиналы диплома всероса. Они такие спрашивают: «Ну почему? Почему не к нам? Почему не даёте оригинал? Куда вы хотите?» — «Ну, у меня сейчас приоритетом Физтех». — «Физтех?! Слушайте, да вы же там вообще это самое... там тяжело, там девушку не найдёте потом. Зачем вам туда? Вот сюда лучше: тут попроще, занятий поменьше». В общем, как-то они меня тогда пытались завлечь, меня это не очень впечатлило. Поэтому я своего решения не изменил.
Там началась борьба уже на самом Физтехе. Я приехал, когда шла приёмная кампания, и пошёл сначала в кабинет, где отбирали на ФОПФ: там мне ещё какую-то задачу дали, потому что у них конкурс большой даже среди тех, кто имеет БВИ, хотели посмотреть. Я там пообщался с Киселёвым и, по-моему, с Колдуновым.
- Кто это?
- Киселёв у них тогда был деканом, хотя уже тогда что-то переформировали под физтех-школы. В общем, мутная была тема: непонятно, какая организация, как она называлась, — этот субъект уже почти не отдельный факультет, а объединённый с другим факультетом, ФПФЭ. Колдунов тоже какую-то высокую позицию занимал. Они ещё все преподают на ФОПФе какой-то кусок своей физики. Колдунов, вроде, ещё олимпиадной физикой занимается. Ну, неважно, в общем.
А я к ним прихожу: с одной стороны, у меня всерос и прочее, а с другой — я им говорю: «Мне интересно математическое моделирование, я хочу моделировать какие-то физические системы и прочее. У меня, короче, есть программа — задача n тел, какие-то шарики крутятся». Они на меня смотрят как на какого-то чудака: «Ты вообще зачем сюда идёшь? Тут у нас теоретической физикой занимаются. Потом пойдёшь в какую-нибудь Черноголовку, там... конденсированное состояние или ещё что-нибудь такое. У нас только одна кафедра занимается более-менее матмодом — это что-то про ядерные реакторы, и мы не уверены, что тебе это понравится». То есть тебе, мол, нужно больше на ФУПМ.
Про ФУПМ я к тому моменту тоже уже знал: я был на Дне открытых дверей, посидел. Молчанов там что-то рассказывал про моделирование транспортных потоков, ещё что-то, по-моему, про экономику. Мне это было интересно, но у меня в голове была ориентация на престиж: мне столько втирали, что «ФОПФ круто», «надо на ФОПФ, это престижно». А потом я пришёл, и меня сами заводилы этого факультета огорошили: мол, ты, может, вообще не туда идёшь, куда хочешь.
И я ещё на ФУПМ пошёл, поспрашивал, что у них там происходит, документы тоже подал. Там они мне, по-моему, дали три задачи порешать — я тоже порешал. Потом для приезжих, кто не из Москвы, организовали в общежитиях временные места размещения: приёмная кампания шла несколько дней, и пока ты думаешь, куда в итоге подавать оригинал, куда хочешь первым приоритетом, можно там у них пожить, посмотреть, поспрашивать студентов. Я решил разместиться в общежитии как раз ФУПМа — это 7-е общежитие. И нас там, знаешь, разместили просто в актовом зале: на первом этаже общежития расставили койки. Ну, ладно, всё понимаю. В общежитии сами студенты живут, скоро приближался учебный год. Ты же не можешь просто: вот у тебя комната, там чужие вещи стоят — поживи, пока студента нет. Такого, понятно, никто не может сделать. Поэтому хоть так разместили — уже хорошо, главное, бесплатно было.
Я там жил день или два, и все сутки у меня были заняты этим метанием: ну что же, может, сюда всё-таки, или сюда всё-таки? Как же выбрать-то? С одной стороны, хочется заниматься физикой, а с другой — тут говорят, что матмода никакого не будет. В итоге я метался, метался, метался и решил пойти на ФУПМ. Помню ещё, когда я пришёл на ФОПФ и сказал, что, мол, всё-таки я не к вам, и забрал у них оригинал диплома всероса, они, видимо, запомнили меня как какого-то чудака и облегчённо вздохнули. Ну, хорошо.
На ФУПМ, на самом деле, люди не особо хотели, и именно я туда поступал чисто по своему интересу — мне очень нравилось, поэтому, если забегать вперёд, да, мне очень понравилось учиться на ФУПМе. Туда не было такого потока: все, если физика, перли на ФОПФ. Если что-то связано с компьютерами — все пёрли на ФИВТ, факультет инноваций и высоких технологий, потому что это была прямая дорога потом в индустрию прогером и так далее. На ФУПМ по итогу, по моему ощущению, попадали всё равно люди очень хорошие, умные, но по большей части это были абитуриенты, которые хотели на ФИВТ, но им просто места не хватило. Они как запасной план выбрали ФУПМ, а потом оттуда многие пытались переводиться на ФИВТ.
- Куда сложнее было поступить: на ФУПМ или ФОПФ?
- Наверное, на ФОПФ, но разница не сильная. Либо в мой год, либо в год после меня средний балл на ФУПМ был 310 — то есть тоже все по БВИ. Там уже начинается сравнение БВИ: у одних БВИ от всероса, у других — перечневые, «we are not the same»[1].

- Можешь рассказать, какие это направления? То есть это ты в школах называешь, или как?
- Они потом объединились в физтех-школы. ФИВТ как раз и ФУПМ начали объединять ещё, когда я поступал, может, даже чуть раньше. И, по-моему, к двадцатому году их уже полноценно объединили: типа факультет упразднили, и то, что было факультетами, наобъединяли в какие-то непонятные структуры.
- Ты поступал на направление какое по итогу?
- Прикладная математика, физика.
- А ФОПФ — это что тогда (название программы)?
- Да фиг его знает, вроде бы там тоже прикладная математика, физика. Ну, это ж широкое направление.
- То есть не было такого, что это просто разные направления?
- Нет, вроде не было. Вот с ФИВТом было: туда я тоже мог поступить, и там у них было поднаправление — тоже прикладная математика-физика, что-то а-ля среднее между чисто айтишным ФИВТом и ФУПМом. У них там всё ещё чуть-чуть физики было, но чисто формально, просто чтобы направление было: прикладная математика и физика. А всё остальное — как у ФИВТа. Мне туда не хотелось, мне хотелось полноценной нормальной физики. А другая часть ФИВТа, по-моему, была прикладная математика, информатика. Туда, кстати, я не мог поступить по всеросу. Может, я мог что-то залутать в своих перечневых — у меня по математике была олимпиада, — но мне надо было бы ещё сдавать ЕГЭ по информатике. Я вроде его даже сдавал, но это настолько нерелевантно было для моей жизни, что я даже результатов не помню.
А потом их объединили, и это стало Физтех-школой прикладной математики и информатики. Там два направления, которые постоянно по-разному называли: то какая-нибудь, не знаю, ФПМИ-наука, то ФПМИ-индустрия, то ещё что-то такое. Я уже не знаю, как это правильно сейчас называть, всё равно уже сколько лет прошло. Но как подструктуры — ФУПМ, ФИВТ внутри ФПМИ — в некотором смысле всё равно существуют.
- То есть их как бы нету, но все говорят, как раньше.
- Ну, сейчас меньше говорят, но тем не менее они не объединились. Есть две вещи, просто сверху на них положили коробку, которая закрывает тот факт, что там две вещи.
Кстати, непонятно, это до сих пор для меня какая-то мистика: зачем, в принципе, это делалось. Кто-то что-то говорил, что это для административных вещей — чтобы получить больше денег по какому-то гранту или ещё что-то такое. Честно, не знаю, не хочу тут распространять дезинформацию. До сих пор не знаю, какие причины у этого были, но такое ощущение, что минусов по итогу больше. И самое главное — там теперь невыборные руководящие должности: если на факультет выбирался декан, то директор физтех-школы не выбирается.
- А как тогда?
- Ну так вот, диктатура такая теперь. Ректор там назначает и всё.

- Ты смотрел потом, что делают на ФОПФе?
- Да, я ходил. У них был тогда, и сейчас, наверное, есть, а-ля курс занятий «Горизонты физики»: с первого, по сути, курса рассказывают о каждой кафедре, чем она занимается, потом можно отдельно к ним ходить и смотреть, что они делают. Я как раз походил на занятия той кафедры, которая единственная по матмоду. И меня действительно в итоге совсем не впечатлило. Я решил: «Ну и ладно, и хорошо, что я не пошёл туда». Но у меня там были друзья, которые пошли — по олимпиадной тусовке, то есть Артур Шилов, Тимофей Савилов. У них траектория пошла совсем по-другому.
- Они сейчас реально в физике где-то работают?
- Они сейчас в Сингапуре, в лабе по графену у Новосёлова. У нас же есть два российских Нобелевских лауреата по физике — именно российских, не советских, советских больше. Это Андрей Гейм и Константин Новосёлов. Очень стыдно будет, если ошибусь, но вроде так. Они занимаются графеном — Нобелевка у них была по графену. Сначала они что-то делали в Великобритании, то есть «российскими» их можно назвать с натяжкой. По-моему, почти сразу, в начале девяностых, они переехали, Константин потом — в Сингапур. Сейчас может, это всё из Сингапура тоже переедет. В общем, там сейчас в местном институте есть их лаба по графену, и туда собрались многие ФОПФы. Ну, «многие» в смысле: не то чтобы из ФОПФов удельно много туда поехало, понятно, они не могут всех принять. Скорее, если посмотреть на лабу, там как бы: > Сингапурская лаба, > *look inside* > russian scientists[2].
Ну вот, они сейчас этим занимаются, но вроде хотят уйти. Тимофей в индустрию хочет, что-то там по чипам. Артур, по-моему, вообще в трейдинг хочет уйти. Рассматривают что-то такое. В целом я потом замечал — особенно на ШАДе это видно, — что много ФОПФов в итоге в физику не идут. Они дико, просто тотально разочаровываются в этом. После бакалавриата или даже во время бакалавриата идут в IT или в ML.
2. Начало научной деятельности
- Как ты выбирал научного руководителя, и к кому ты пошёл по итогу?
- Да, у меня тоже метания были. ... Я особо на научников не смотрел, я больше смотрел, чем занимаются кафедры.
Кафедру надо было выбирать где-то в середине третьего курса бакалавриата, по-моему. Я очень сильно метался, на многие топовые кафедры проходил: на Яндексовскую кафедру, на кафедру ABBYY, прошёл ИППИ — кафедру Института проблем передачи информации, она на ФУПМе была в топ-1 по рейтингу, и ИАД тоже. Но меня интересовал матмод, и я в итоге пошёл на кафедру Института вычислительной математики. Там матмод в биологии, геофизике, медицине (ВТМГБ - прим. ред.). Было представлено много проектов: что можно взять в качестве научной работы к концу бакалавриата. Был длинный список.
- Это после поступления уже на эту кафедру или до?
- До поступления я смотрел на список, чтобы понять, на что подписываюсь. Меня изначально заинтересовало то, что ближе к software: был проект, связанный с разработкой программной платформы INMOST для математического моделирования. Я почему-то решил, что можно от этого сделать прыжок и, используя эту платформу, заниматься тем, чем я сам хотел. Не помню уже точно, какие у меня мысли были. В итоге я туда поступил, отсобесился.
У нас тогда собралась сильная группа — мат. группа: когда набирали в бакалавриат, были обычные группы, и на ФУПМе ещё одну-две мат. группы собрали, не помню. Туда запихнули особо сильных, видимо, у кого больше было олимпиад.
Мне в начале, наверное, в первом семестре было сравнительно плохо. Был предмет по дискретке — дискретная математика, дискретный анализ — и проходили многое, что люди из олимпиадной математики уже знали: базовые вещи по теории графов, комбинаторике и так далее. Я толком это всё не проходил. Рядом со мной были люди, которые всё это уже знали, и мне немножко было некомфортно. Но потом этот разрыв пропал, и я нормально себя чувствовал.
Половина, наверное, этой мат. группы в итоге тоже пошла на эту кафедру по матмоду, потому что нас жёстко заагитировал Павел Останин. Он у нас преподавал пару предметов, очень сильный преподаватель, тогда на этой кафедре работал.
На кафедре у меня научник был и по сути есть сейчас тоже — Терехов Кирилл Михайлович, который разрабатывает платформу INMOST. Научка у меня была по численным методам: я занимался солверами жёстких дифференциальных уравнений. Жёстких в том плане, что у них есть в некотором смысле особая чувствительность — либо по входным данным, либо по параметрам. Есть процессы, протекающие с разными временными масштабами, сильная нелинейность и так далее. Я занимался числаками для этого, а как приложение — моделирование тромбообразования, крови, биомедицина. Вот такая у меня была научка, такой научник.
- Я вообще не разбираюсь, что делают в математическом моделировании. Расскажешь?
- Есть эксперименты, типа: если сделать такой сосуд и по нему кровь пустить, там будет образовываться тромб. А если сделать такой — не будет. Если вот это подмешать — будет, если другое — не будет. А если тут намазать, то тромб будет расти тут, а не там. И надо разработать единую модель — дифуры, которые, если их решать, всё это будут воспроизводить. Этим надо было заниматься. Но дифуры всё время получались жёсткие: много нелинейности, и если их нехорошо решать, они могли очень легко взрываться.
- А это надо было симулировать где-то?
- Да, что-то простое могло считаться на моём ноуте, а что-то надо было считать на кластере. Сейчас тоже этим занимаюсь понемножку: если что-то надо считать, это считается на кластере Сеченского университета — это медицинский вуз, есть доступ к их мощностям.
- Это прямо прикладное применение матмоделирования, можно сказать.
- Ну да. Задача была понять, как это всё работает, чтобы потом на этой основе дизайнить лекарства или процедуры лечения: высчитать оптимальную дозу антикоагулянтов или антиагрегантов, чтобы у человека не было проблем с тромбами, но при этом не было такого, что он об бумагу порезался и половина крови вытекла из-за того, что ничего не свёртывается.
- То есть не то чтобы ты шёл на этот проект, когда выбирал кафедру, научника. Ты шёл именно на систему эту INMOST?
- Да, на кафедру.
- Это была подзадача, которую ты в диплом взял?
- Ну да, в итоге так: мне дали то, чем они сейчас занимаются, я под козырёк взял и начал делать. Но в определённой степени я мог влиять на то, что буду делать. Мне было интересно заниматься числаками, поэтому у меня был сильный акцент на жёсткости дифференциальных уравнений. В дипломе больше текста уделено вопросам жёсткости, а не моделирования. Я начинаю вводить: «Можно жёсткость так определить, тут такая теорема, а так-то это на это влияет, то сё, пятое-десятое», примеры, численные методы, как они работают. А в конце страниц десять: «Ну вот, применим это к крови».
3. Магистратуры, ШАД, студ. олимпиады
- Студенческие олимпиады. Я видел, ты участвовал немного в «Высшей лиге». Зачем участвовать в студенческих олимпиадах?
- Причин много. Во-первых, это может помочь с поступлением в магистратуру. Во-вторых, иногда бывают призы. Я, например, был медалистом ещё по «Я — профессионал» — мне выдали сколько-то денег, не помню точно. За медалиста немало, скажем так.
- На теплоходике покатали?
- Не-не-не. Я не помню, было ли вообще какое-то мероприятие. Мои воспоминания такие: я прибежал куда-то в Вышку, что-то подписал, оставил банковские реквизиты. И всё.
- Вот бы все олимпиады так проходили.
- Да. Потом что-то типа престижа, поддержания себя в форме, могут давать другие плюшки. Ещё по «Я — профессионал», уже не как медалисту, а как победителю, по-моему, мне дали бесплатную поездку («Больше, чем путешествие» - прим. ред.): свозили в Мурманск, а оттуда ещё в Териберку, где снимали «Левиафана». Было очень классно и вайбово, мне очень понравилось.
- На форумы ездил?
- На форумы не ездил, я вообще не люблю форумы.
- А как ты готовился к олимпиадам? Ты что-то ботал за пределами своей программы в универе?
- Вообще нет. Сейчас точно не вспомню, но общее впечатление такое, что у этих олимпиад — «Я — профессионал» или «Высшая лига» — были задачи на темы, которые и так проходят в вузе. Просто надо вспомнить все нюансы, крайние случаи. Они сами по себе посложнее, больше шагов надо делать, чтобы прийти к ответу. А так они вроде не задействовали ничего, что выходило за пределы программы. Поэтому я, по-моему, ботал так: решал задачи прошлых лет. И этого мне хватало.

- Окей, идём до магистратуры. Я знаю, у тебя сложно с аффиляциями. Можешь рассказать, какие у тебя были магистратуры? Они были сдвоены или нет?
- У меня была программа двойных дипломов МФТИ + Сириус, но она не была полноценно оформлена как программа двойных дипломов. Я учился одновременно и там, и там, формально отдельно. Это можно было делать, потому что в Сириусе ты учишься не за бюджет, а за счёт средств фонда — формально не нарушаешь закон, что за бюджет нельзя учиться (в 99% случаях бесплатное/бюджетное образование каждого уровня можно получить только один раз - прим. ред.).
Мне в директивном порядке перезачитывали предметы то там, то тут, в основном в Сириусе перезачитывали предметы из МФТИ. Но окончательно это так и не оформили как программу двойных дипломов, и оно в таком виде загнулось: я был первый и последний вообще, кто на таком у них поучился.
- Эксклюзивная программа двойных дипломов.
- Ну да. Изначально планировалось, что будут три человека. Это как раз моя кафедра организовывала — они хотели сделать хорошую совместную программу с Сириусом. Под себя открыли направление: матмод в нефтегазе, в фармакометрике и в биомедицине. Хотели взять трёх человек, чтобы отучились и там, и тут.
Я сразу сказал, что готов в этот движ вписаться. У меня тормозов в этом плане нет: вижу интересную тему — и вписываюсь. Потом вписался ещё один человек. И хотел третий, но он очень хотел быть со своей девушкой. Поскольку мест было только три и два уже занято, осталось только одно, он в итоге отказался. Но прикол в том, что тот, который второй, оказывается, наврал: он вообще не хотел идти в эту магистратуру. Но говорил: «Да-да, я пойду на эту кафедру, на этот факультет, на это направление». Я так и не понял, зачем это делалось. Не хочу сейчас случайно оклеветать человека, но тем не менее.
В итоге два места-то было свободно, но тот, который хотел со своей девушкой, об этом не знал. Вот так оказалось, что я один. Ну да, это был какой-то эпик фейл, очень нехорошо получилось. И для меня одного такая головная боль была — всё это организовывать, предметы перезачитывать. Постоянно нужен был контроль Василевского Юрия Викторовича, который сначала руководил у нас кафедрой, этим направлением, а сейчас он директор ИВМ РАН. Потом ещё началась мутная история: «Газпром нефть» начала это направление в Сириусе отжимать. Поэтому оно в итоге закрылось, и вместе с ним пропала программа двойных дипломов. По итогу я доучился, получил дипломы.
- Но у тебя были разные дипломы? И там, и там. Это были раздельные дипломы?
- Мне говорили, что делать: «Да-да, надо раздельно». Но понятно, что у меня нет ресурсов сделать это полностью раздельно. Я и так накатал что-то типа 80 страниц для магистерского диплома, а рекомендации просят, что ли, до 60. И я такой: «Ну, блин, если я сейчас ещё такой же по качеству буду делать отдельный...» Фигово было. У меня были две сырые темы для диплома, которые я не успел включить, когда защищался в МФТИ. Я их доделал и включил, когда защищался в Сириусе. Формально текст разный, даже какое-то существенное различие есть, но оно небольшое.
- Ты волновался, что можешь никуда не поступить, что надо думать, куда поступать? Или вы рано решили с научником, с кафедрой: вот у вас такая программа новая есть, и мы набираем людей?
- Не, они как только объявили, я почти сразу согласился.
- Это на четвёртом курсе, на третьем?
- В конце четвёртого объявлялось.

- А ты ещё ШАД в это время заканчивал?
- Да, я поступил в ШАД на четвёртом курсе бакалавриата и заканчивал его на первом курсе магистратуры. В какой-то момент я учился в трёх местах одновременно.
- Ты спал в это время вообще?
- Смотри, трюк следующий: спать надо, просто надо спать отрицательное число часов, чтобы, когда ты их вычитаешь из продолжительности дня... В общем, тяжело было. Я не помню, как именно тяжело, видимо, мозг забывает травматичный опыт. Но мне понравилось — если завершать это девизом ШАДа: «Будет сложно, но вам понравится». Единственное, что от всей этой штуки меня до сих пор немножко гложет, — остатки во мне олимпиадника-слэш-отличника: я в ШАДе один курс закрыл на четвёрку. Всё, это у меня травма. Ну, шучу, конечно, но тем не менее.
- Какой курс?
- Это ML-2. Обидно было: мне, по-моему, из кучи десятков баллов не хватило трёх до отла. И эти три — ровно за то, что я не построил какой-то график, который они просили. Я почему так хорошо это запомнил: я проверяющему три раза писал: «Почему так вообще? У меня это на оценку влияет, можно как-то поправить?» Я думаю, не было бы такого прохода по грани, если бы я не нахватался квестов, как собака блох, всех этих программ. Если бы как-то спокойнее было. Но тем не менее закончил, всё остальное было хорошо.
- Я слышал, на Физтехе есть курсы, которые уже есть в ШАДе. И некоторые физтехи перезачитывают себе в ШАДе курсы из Физтеха. Правда?
- Да, можно перезачесть. Я перезачитывал курс по статистике. Может, и зря это сделал: на Физтехе был акцент на одну часть статистики, а в ШАДе были ещё допы, типа гистограмм и прочего. Но я это узнал постфактум. Сначала честно отходил четыре, что ли, занятия, чтобы проверить, что совпадает. После этого принял решение, что, наверное, нет особого смысла и лекции посещать, и задачи решать — это же уже у меня было, — и попросил перезачесть. Они перезачли. Я остался в чате, и только потом, когда пошли вопросы по гистограмме, гистограммной оценке, KDE, понял, что были темы, которые не покрывались на Физтехе. Больше я ничего не перезачитывал.
- По хардам: ты думаешь, в ШАДе было тяжелее учиться, чем в магах? По затратам времени, давай так.
- По времени, наверное, поровну, более-менее в среднем. Может быть, в начале маги было чуть сложнее, потому что предметов посещать надо больше. Но на втором курсе маги почти ничего не остаётся — надо текст писать, поэтому заметно проще. Если усреднять, то, наверное, чуть-чуть маги тяжелее.
- В Сириус надо было летать?
- Надо было, летал много, сравнительно. За магистратуру в итоге суммарно провёл там, может быть, месяца четыре. Сюда можно ещё докинуть то, что я в Сириус и так летал на смены. Наверное, суммарно я в Сириусе прожил целый год своей жизни.
- Ты платил сам за перелёт?
- Нет.
- И жильё, наверное, давали?
- У них там пансионат переоборудован в общежитие.
4. Аспирантуры, научная деятельность, свободное время
- У тебя с аспирантурой тоже тяжёлая аффиляция. У тебя две аспирантуры?
- У меня сейчас две абсолютно раздельные аспирантуры. Даже не как в магистратуре, где хотя бы тематика и тема диплома были одной. Тут я в двух отдельных аспирантурах: одна — я остался в МФТИ на той же кафедре, а вторая — я пошёл в Сколтех, потому что изначально уже работал там с конца бакалавриата. Было решено, что я уже наработал, статьи у нас вышли, и можно защититься по ним.
- Давай очень бегло про аспу в Физтехе. Там ты продолжаешь работать над той же темой, что и в бакалавриате?
- Она немножко изменилась. Всё так же связано с кровью, но теперь крови гораздо больше. Мне это не супер нравится. Я комфортно себя чувствовал, когда занимался числаками, а сейчас надо ставить кучу 3D-экспов с гемодинамикой. Мне это очень плохо даётся — это часть матмода, которую я не очень люблю.
- Доменная экспертиза нужна?
- Там тоже доменная экспертиза, просто не тот домен, который мне нравится. Это видно по моему бакалаврскому диплому: под кровь оставалось чуть-чуть, как интересное приложение той теории, которую я выводил. А сейчас мне надо заниматься только этим. И мне это меньше нравится.
- Это получается бюджетная аспирантура?
- Да.
- А в Сколтехе я не помню, как это работает?
- Так же, как в Сириусе: есть фонд, из которого всё финансируется.
- Зачем тебе две аспирантуры? Основная работа, наверное, в Сколтехе.
- Ну да, наверное, скорее сейчас так уже. Тут тяжело хорошо ответить ...
- По инерции?
- Ну да, серьёзный фактор инерции был. Мне не хотелось подставлять ни одну из команд: если бы я ушёл из МФТИ, на меня бы там странно смотрели; если бы я продолжал работать в Сколтехе, но в аспу не пошёл, тоже странно бы смотрели. Потом я думал, что всё это будет гораздо легче. У меня по Сколтеху уже было необходимое количество статей — оставалось предметы сдать, написать текст и защититься. А по МФТИ планировалась к выходу третья статья по той теме, и я тоже думал, что можно быстро отстреляться и всё.
- Под конец магистратуры (были статьи уже)?
- Ну да. Но в итоге всё дико затягивается, потому что сейчас я больше времени стал тратить на научную работу. Надо продолжать, чтобы конвейер статей работал, всё субмитить-субмитить. Мне студентов понакидывали — надо смотреть, что они делают, давать задачи. В итоге перегруз: нет времени ни на что, даже собрать то, что уже опубликовано, в единый текст кандидатской, разобраться с бюрократией и защититься.
- Я слышал, про докторскую говорят: если отсрочить, то потом можно не защититься.
- Может быть. Я про докторскую даже пока не думал.
- Ты сейчас на 3-ем году аспирантуры?
- Да, я везде на третьем. Изначально были наполеоновские планы защититься на первом или втором: реально, формальные вещи сделаны, статьи опубликованы, оставалось закрыть предметы, сдать кандидатские. Но текст надо написать. Я думал: «Быстро сейчас сконкатенирую эти Overleaf-исходники, нафиг». И нет, не получается найти на это время толком. Сконкатенировал — а потом это выглядит страшно. Надо всё равно переделывать, мне самому не нравится. Чтобы нормально этим заняться, надо выделить время, а выделить не получается.
- Это педантизм или здравый смысл?
- Это какое-то минимальное уважение. Должна же быть целостность. Мне самому будет неприятно, когда это будет висеть в интернете — это же потом будет доступно: что я просто взял и сконкатенировал статьи. Надо найти немного времени: чтобы был месяц, в котором каждый день можно выделять один-два часа. Но натурально нет. Я ложусь поздно, встаю рано, и времени хватает только на то, что нужно прямо сейчас. Дедлайн за дедлайном: это надо посмотреть, сюда отправить домашнее задание, чтобы студенты решали, тут студенту выдать задачу, чтобы по научке делали. И всё — неделя проходит, неделя заканчивается.

- Как ты отдыхаешь тогда? Ты отдыхаешь?
- Сейчас, к сожалению, мало отдыхаю. Стараюсь хоть сколько-то времени уделять чтению книг. Например, сейчас дочитываю «Тихий Дон» — буквально 100 страниц осталось. Это ещё по школьной программе надо было почитать. Разумеется, обычно никто не читает, в лучшем случае краткое содержание. А я сейчас уселся, прочитал — мне очень понравилось, рекомендую.
- Не слушаешь, читаешь?
- Да, читаю. До этого читал «Одноэтажную Америку» Ильфа и Петрова — тоже интересная книга. Так чуть-чуть отдыхаю, потом на какие-то мероприятия хожу. Как сейчас (мы на Fall into ML - прим. ред.).
- Может, на семинары ходишь, лекции? В МИАН?
- Нет, у нас есть семинары в Сколтехе по теории информации. Ещё иногда были семинары в Независимом математическом университете (НМУ). Некоторые мероприятия на Физтехе ещё проводятся, я тоже появляюсь. Есть велосипед, на нём периодически катаюсь, в бассейн хожу. Когда так мало времени, надо себя буквально заставлять, к сожалению.
Если никуда не получается приткнуться, никаких мероприятий нет, я могу смотреть YouTube. Но это обычно тоже что-то по математике.
- Летние школы ещё были у тебя, немного.
- Как смены в Сириусе — тоже туда ездил. Видел объявление, какой-то интересный движ — записывался. Проходил отбор — ехал.
- Хорошая стратегия, которая не особо тебя подводила пока что.
- Наверное. Сейчас уже нет времени подаваться, я старый стал.
- Тебе 26?
- Да. Со SMILES весело было. Я понимаю, что это by design, что там сильное влияние спонсоров, но когда я подавался — это было в 2024 году, — я смотрел: «Ого, там есть тема self-supervised learning (SSL), обучение без учителя. Давайте туда приедем и толкнём тему, что у меня есть своя идея, которую я хотел бы реализовать. Давайте в рамках школы над этим поработаем, и все будут довольны».
Разумеется, когда я приехал и толкнул это Зайцеву, он вообще не был в восторге. Он сказал: «Есть Сбер. У Сбера есть данные банковских транзакций, занимайся там SSL». В итоге что делать? Мы действительно начали этим заниматься, но параллельно всё-таки начали разрабатывать и эту идею — вопреки, так сказать. Помню, на нас ещё ментор злился: «Мол, чё вы тут занимаетесь? Надо практическими вещами, а вы тут...»
- Опять эти математики...
- Да. Мы проявили, к сожалению, определённое неуважение, но продолжали гнуть свою линию и сделали проект, как хотели. И нас это не подвело: это летом закончилось, мы сразу оформили в статью, подали на ICLR — и с первой попытки прошло.

- Я видел, у тебя есть статьи с Коротиным, какой-то лабой на Физтехе, и с французами ещё.
- Ну да, французы слэш итальянцы. Итальянцы, которые работают во Франции.
- Как получаются эти коллаборации и зачем? Есть цель или просто получается так?
- С Коротиным так получилось: по-моему, Никита Гущин подошёл и сказал: «Мы тут открыли, как можно через диффузию оценивать KL-дивергенцию». Я им сказал: «Круто, ребята, это буквально статья с актуального ICLR». Мы все группой расстроились, потом решили: «Ладно, можно эту идею перенести на шрёдингерские мосты». Поэтому у нас коллаборация сделалась. И дальше вариации на эту тему, в том числе с дискретным вариантом...
- И flow matching, и bridge matching...
- Не, flow matching мы сами сделали. Что интересно, у меня, по-моему, была попытка толкнуть flow matching Коротину и его команде, но что-то не вышло. Мы в итоге сами сделали и получили spotlight, но не с первой попытки. Но ладно, это я так, одиозно сказал. Не надо из этого, пожалуйста, делать вывод, что мы сами лучше делаем. Понятно, рандом такой. Просто смешно получилось: у нас нет особого релевантного опыта в flow matching, но если грамотно его применить, оказывается, хорошо получается.
По диффузии у нас была хорошая коллаборация с Никитой, с Сергеем и с Александром. Сейчас ещё делаем по дискретному варианту, там ещё есть Ирина и Григорий. Может быть, ещё получится пара статей. Не знаю, у них сейчас профиль сильно меняется: они занимались оптимальным транспортом, соответствующими генеративками, а сейчас пошли в дискретную диффузию для LLM. Там, я думаю, тоже можно браться. Просто у них сейчас, наверное, у самих мало времени разгребать свои идеи; если я им ещё свои буду толкать, наверное, у них не получится.
Потом итальянцы-французы. Это буквально та статья по диффузии, которую переоткрыли у Коротина. Мы на основе этой статьи познакомились — это статья от этих итальянцев-французов. Я был на ICLR в двадцать четвёртом году в Вене. У нас была статья про Information Bottleneck, и рядом была их статья про оценку взаимной информации через диффузии. Я к ним подбегаю — они трое стоят: Pietro, Giulio и ещё Mustapha Bounoua, не помню точно. Я говорю: «О, ребята, мы тоже этим занимаемся. Check out our постер». Они такие: «Во! Guys!»
Ну, это сравнительно нишевая тема: она интересная, но занимается ею мало людей. Они были рады увидеть, что кто-то тоже этим занимается, к нам подошли, потом мы ещё раз к ним подошли.
- Так мило.
- Да, и мы потом решили сколлабиться. У нас, правда, сейчас только одна совместная статья, в препринте. Мы подали сначала в JMLR, но там уже была разнарядка, что не надо фейковые аффиляции ставить. Я поставил аффиляцию Сколтеха, и нас как бы реджектнули. Мы это частично ожидали, частично не ожидали, потому что до этого от Яроцкого приходили статьи с аффиляцией Сколтеха, и вроде проблем не было. Сейчас будем подаваться в другое — в Transactions on Information Theory и что-то там S, сокращённо TITs (к сожалению, аббревиатура только TIT, а TITS это Transactions on Intelligent Transportation Systems - прим. ред.). Посмотрим, как она пройдёт.
- То есть там уже была цель поколлаборировать?
- Мы сначала пообщались, потом такие: «Да, давайте вместе работать». Провели семинары туда-сюда: я им чё-то рассказал, они у нас чё-то рассказали, и уже начали статью писать. Статья у нас какой-то долгострой вышла: мы начали делать эту идею, когда я был на школе SMILES, но всё долго тянулось, только недавно доделали.
- Это кошмар просто был тебе на школе SMILES. Ты же ещё тогда ребаттл писал.
- Да, ребаттл я ещё писал. Такая жизнь. Неприятно, конечно, когда всё сваливается одномоментно.

- Давай поговорим про "две темы". Иметь две темы в научке — это распыление? Или скорее хорошая практика — не концентрироваться на одной теме?
- Тут надо, отвечу мемной фразой, диалектически подходить. Есть и плюсы, и минусы, они одновременно существуют: это одновременно и распыление, и в некотором смысле хорошая практика. Я не хочу быть человеком, который фокусируется на одном. Всё равно хочется поддерживать осведомлённость в том, что происходит в другой области.
Для меня естественно было попробовать заниматься двумя научками. Но я понимаю, что сейчас, если на меня ещё сваливать нагрузку по руководству студентами и прочее, я не выдержу обе темы одновременно. Если бы я сидел в изолированном пространстве и сам занимался тем и тем, я бы мог находить время. А когда ко всему навалилось — надо смотреть, что другие пишут, коллаборировать, — нет, уже физически не хватает. Но даже так я бы, наверное, полностью из одной области не уходил: делал бы какие-то пет-проекты либо попытался их чуть ближе совместить — попробовать что-то из SSL для математического моделирования, Joint-Embedding Predictive Architecture для моделирования или ещё что-то. Может быть, получилось бы. Трудно, минусы есть, проблемы объективно возникают, сил не хватает, но тем не менее и плюсы есть.
- Больше успеваешь? Какие плюсы?
- Плюс в том, что у тебя сравнительно широкий кругозор: ты не фокусируешься на всём этом, и в целом так интересней получается. Я бы с ума сошёл, если бы всё время долбил одну тему. Большинство людей так работает, я понимаю, что это норма, но я не мог бы для себя это принять. Вижу человека, который несколько лет долбит тему квантизации LLMок, — я бы с ума сошёл. Как так-то? Одна статья про квантизацию, потом вторая, потом третья, четвёртая — нет, жуть какая-то.
Самое страшное — я должен ещё и со своими предыдущими результатами сравниваться: если я что-то хорошее сделал, мне нравилось, я должен в новой статье себя убедить, что нет, это уже плохо, устаревшее. Интересней получается туда-сюда скакать. Пускай другие сначала докажут, что мой метод плохой, и только потом я буду доказывать, что уже их метод плохой. Так как-то морально спокойнее, не знаю.
- В аспу ты шёл с конкретным планом или опять же был открыт новым направлениям?
- В аспу я шёл с конкретным планом: у меня уже есть статьи, быстро всё закрыть и защититься. К сожалению, по плану не удалось идти: план остался таким же, просто сильно растянулся по времени. Я всё время аспу рассматривал в следующем виде: буду делать то, что уже делаю, параллельно защищусь — и всё.

- Окей. Как всё успевать? Две темы научки, например.
- Я нормально это не успеваю, поэтому, наверное, меня лучше не спрашивать. Давай так: я бы точно никак не смог успевать, если бы хотя бы одна из этих вещей была тем, что я вообще не люблю. Такой способ организации жизни нельзя использовать, например, чтобы совмещать то, что нравится, и нелюбимую работу: тогда ты не будешь успевать либо что-то одно забросишь совсем.
- У тебя есть разделение проектов на high-risk/high-gain, low-risk/low-gain?
- Явно я так не разделяю, но есть понимание, что эта идея может выстрелить, может не выстрелить. Я примерно оцениваю, что получу, если она выстрелит, и что получу, если не выстрелит.
- Ты набираешь разные проекты в одно время? Стратегически подходишь к этому?
- Стратегически нет, но стараюсь поддерживать разнообразие — у меня есть и те, и те. Конечно, преобладает, наверное, хай-риск: возникает идея, не факт, что заработает, но надо вбухать много времени и компьюта, чтобы проверить. Сравнительно много компьюта.
- Как много твоих проектов не превращается в статьи?
- На текущий момент примерно 70 процентов идей не превратилось в статьи. Но это, наверное, не совсем ответ на твой исходный вопрос, как я его понял: есть ещё вероятность, что какая-то доля превратится в статьи, просто не хватает рук, чтобы всё сделать.
- А как часто похожие на твои идеи публикуют другие авторы?
- Довольно часто. Если идея хорошая и в итоге оказывается хорошей, то, скорее всего, кто-то находит этот способ. У нас это было, например, с идеей со сжатием, когда мы сначала сжимали и оценивали взаимную информацию — это была моя первая А* статья. Буквально через полгода выпустили почти то же самое, на NeurIPS прошло. И меня очень раздражает, что у них больше цитирований, чем у нас.
И ещё с flow matching — тем, что я ребатлил на SMILES. Хорошая идея, но уже после подачи я увидел, что она частично была реализована в статье, которая вышла за год до этого. Я тут уже выступил таким нехорошим человеком. Но потом, конечно, в camera-ready на неё сослался и чётко разделил, что мы сделали, а чего сделали не мы. Самое смешное: мы это заслали, а потом пошли статьи, которые чуть-чуть нашу идею дополняют. Например, учат не дискретные нормпотоки, а непрерывные нормпотоки. Какой тут контрибьют — не сильно ясно, лучше нас сильно не стало. И они тоже принимаются на NeurIPS или ещё куда-то. Если бы я с этим помедлил, думаю, они бы целиком забрали наш вклад.
А чтобы прямо вообще забрали — была у нас идея использовать sliced mutual information (SMI) для анализа гроккинга, double descent. И какая-то сингапурская девушка сделала это первее нас. Мы в отместку просто сделали, как бы, nuclear option: короче, всю эту область раздолбали — выпустили статью, которая говорит, что SMI — это какая-то хрень, и все, кто её использовал, не понимали, что делают. Вот такая месть.
Ещё был мем: я, по-моему, рецензировал статью, которую эта девушка подавала. У неё это было как дойная корова: она с 2022, что ли, года непрерывно писала статьи по SMI, у неё PhD по SMI. Она у нас эту тему из-под носа утянула, а потом ещё новую статью писала. Я предполагаю, что это она, но на самом деле потом на arXiv не лазил, не смотрел. Почерк очень похожий, определения такие же, тема такая же — они sliced mutual information для чего-то ещё использовали. Я в рецензии ей вывалил все недостатки sliced MI и сказал: «Вы тут ерундой занимаетесь». Больше за её траекторией не следил. На самом деле надеюсь, что у неё всё хорошо. Просто хочется иногда повеселиться.
Не думаю, что у неё там пойдёт под откос. Человек умный, другую тему найдёт. Я в своих результатах уверен: теоремы доказаны, есть примеры, показано, что это работает плохо, не так, как люди думают. Несмотря на то что я сейчас, больше ради смеха, описал это в терминах гнева, я считаю, что это положительный вклад: люди не будут заниматься тем, что плохо интерпретируется либо может приводить к серьёзным ошибкам. Если она этим прекратила заниматься, для науки это хорошо. И для неё тоже хорошо.

- Насколько, ты думаешь, успех исследователя зависит от выбора правильной темы и научного руководителя? Ты говоришь: она умная, найдёт тему. Реально ли найдётся что-то?
- Чтобы получать больше A*, есть простой метод: надо найти интересную область, которая при этом нишевая. Если ты в ней что-то сделаешь, это поймут люди из других областей, им будет более-менее интересно. Но чтобы сам результат получить — не понять его, а получить, — нужны специфические знания, которые не везде есть. Например, теория информации: её большинство MLщиков не ботают совершенно.
Если такую область найдёшь, можешь довольно много работ клепать по этой теме. Они будут интересны тебе самому — ты этим занимаешься, область сравнительно нишевая, мало результатов, — и при этом интересны другим людям, потому что могут быть инсайты. Как с Information Bottleneck у нас было: что происходит внутри нейросети. Или как с FMMI — мы использовали это, чтобы анализировать, что происходит с активностью в головном мозге. Что-то интересное для общей публики.
Общий рецепт — находить такой дисбаланс: чтобы результат был интересным, но при этом делать его было неинтересно. Тогда у тебя будет мало конкуренции, можешь спокойно дорабатывать идеи. Когда доработаешь — они могут публиковаться в хороших журналах или на A*.
- Как ты нашёл такую тему сам?
- Была школа по теории информации, оптимизации и управлению в Сириусе, по-моему, в двадцать первом, что ли, году. Там был проект по теории информации для ML, мне это очень понравилось. Теория информации уже тогда показалась мне очень интерпретируемой надстройкой над теорией вероятностей: её легко понять, много интуиции, результаты согласуются с твоей интуицией.
Оказалось, что поскольку теория информации изначально была сделана для телекома, её сейчас мало применяют для ML, несмотря на то что у неё приложений до фига — примерно столько же, сколько у теории вероятностей. Это высокоуровневая надстройка над теорией вероятностей. Получилось, что тема и интересная — мне понравилась эта интуитивность, — и нишевая: можно публиковаться, и при этом не будет супер сильной конкуренции, не как в LLMках, например.
- Тебе и матмод был интересен.
- Матмод тоже интересен, он и сейчас интересен.
- Получается, случайно наткнулся на теорию информации?
- Да, опять та же история: увидел, что намечается какой-то движ, записался, поехал — и уже там увидел, что мне интересно.
- В принципе, это случайность, что ты начал заниматься теорией информации более серьёзно?
- Ну да.
- Это можно как-то оптимизировать: на всё соглашаться и тогда повысить шанс случайности.
- Ну да, наверное.
- А может ли, наоборот, сильный человек быть непродуктивным, если с темой не повезло? Тема неудачная, непубликабельная.
- Да, конечно. С матмодом, с числаками — в некотором смысле почти так. Там всё, извиняюсь за выражение, дедами придумано. Не хочется хороших людей дедами называть, но тем не менее: теперь за ними только доедать. Все хорошие численные методы уже сделаны, остаётся их применять для чего-то. Надо сильно поднатужиться, чтобы что-то новое выжать. У меня чуть-чуть вроде получилось в бакалаврской работе: интересный новый экспоненциальный интегратор. И то часть идеи, оказывается, уже была — так называемый адаптивный тета-метод. Тема сложная, публиковаться гораздо труднее: у меня по этой теме до сих пор только три статьи.
- Ставил ли ты когда-то себе задачу найти тему, где публикабельно?
- Когда шёл в матмод, не ставил себе задачу искать публикабельную тему — я шёл, потому что было весело. Ещё в школе было весело трогать модельки, чтобы шарики летали, мне это дико нравилось. Если максимально утрировать, я чувствую, что создаю миры. Это как писатель пишет: у писателя, конечно, гораздо более творческая работа, но он расписывает, как взаимодействуют персонажи, в каком сеттинге. Я себя похожим образом чувствовал: как взаимодействуют эти элементы модели? Какие силы надо сделать, чтобы всё не разлеталось, не взрывалось или, наоборот, не коллапсировалось? Как правильно сделать сеттинг, чтобы было интересно.
Особенно это интересно, когда моделируешь эволюцию: надо было делать так, чтобы разнообразие в итоге было, но чтобы это не было хаосом. Я любил всё это тонко поднастраивать, придумывать идеи, проверять, заработают они или нет. Но область в итоге не очень публикабельна.
- Видел видео на YouTube «Техно-шаман»? Где у него цифровые растения, эволюция растений.
- Что-то вроде было, да. В школе я много смотрел YouTube-видео на такие интересные штуки: «Я что-то придумал интересное, запрогал». Сейчас, кстати, их что-то мало стало. Я боюсь, что те, которые будут, — там, наверное, всё навайбкожено: мал вклад человека, уже не прослеживается интерес отдельного индивида ко всей теме.
- А над чем бы ты работал, кроме теории информации, если бы не было теории информации? Если бы она кончилась завтра?
- Тяжело сказать. Может быть, я бы её преподавал. Если она закончится — почему-то ничего придумать нельзя — стал бы думать, как красиво обернуть и подать людям, чтобы могли нормально пользоваться.
- Ладно, а если с точки зрения новой темы? Вторая крутая тема после теории информации.
- Может быть, чистая теория вероятностей, мне тоже интересно. Генеративки, может быть, чутка.
- Ты бы там публиковаться мог, думаешь?
- Там, конечно, очень вредная тема. Не знаю. С другой стороны, у нас уже есть статьи по генеративкам/теории информации. Но тяжело, конкуренции много. Я вижу, как работают у Коротина: постоянно надо придумывать и тестировать новые идеи, тяжело всё это.
- Непонятно сходу, куда ещё можно, где ещё не разработано поле?
- Ну да. Надо будет сидеть долго думать, пробовать руками. Сразу не скажешь.

- Есть научники, которые дают полную свободу аспирантам. А есть наоборот, которым надо, чтобы ты на них работал 24/7, они дают чёткие задачи. У тебя какие научники и что бы ты сам хотел?
- В Сколтехе у меня больше по свободе. Слава богу, Алексей Фролов мне в некоторой степени доверяет: получается по большей части самому тему выбирать. Но всё равно есть вещи, которые надо делать. Что лучше, а что хуже — зависит от студента, от научника и от темы. Если приходится работать над темой, которая мне неинтересна или менее интересна, мне не так страшно пожертвовать свободой: скажи что-то сделать — я сделаю. Но если тема интересная, хочется больше свободы. С другой стороны, есть студенты, у которых работа устроена по-другому: они не хотят особо придумывать новые идеи, что-то исследовать. Им интереснее сфокусироваться на одной идейке и потвикать, пооптимизировать какие-то мелкие вещи — это для них наиболее интересно. И тогда им надо чётко формулировать задачу, чтобы не расплывались. Мне кажется, это всё дико индивидуально.
- В бакалавриате у тебя как было?
- У меня была определённая чёткая задача, но я всё равно сам ещё добыл себе немножко свободы: получил какие-то результаты и поставил научника перед фактом — «Всё, это сделано, будет включено в диплом».
- Взял быка за рога.
- В целом так делать не очень хорошо, но конкретно тогда вроде он не расстроился и даже похвалил: проявил инициативу и всё такое. Вот так было.

- Про раннюю защиту после первого года аспирантуры - зачем это делать?
- Чтобы не было этих висящих обязательств. Мне не нравится: надо мной сейчас висит, что я должен быстрее всё сделать. Если не буду успевать, есть риск, что буду защищаться после конца аспирантуры, — это может вызывать определённые проблемы. Сейчас, наверное, не смогу чётко описать. Например, уже не получится защищаться по тому же направлению, надо будет что-то менять. Плюс риск армии. В общем, чем раньше со всем закончишь, тем лучше.
И ещё чисто утилитарная польза: если имеешь кандидатскую, в некоторых местах могут устроить повыше, дать побольше зарплаты, например.
- А есть смысл защищаться пораньше? После второго года, после первого? Понятно, что армия и всё это, но конкретный профит от того, что напишешь где-то: «Я защитился после первого года аспы».
- Не, всем пофиг вообще.
- Может быть понт какой-то есть?
- Некоторый понт, конечно, есть. Вот сейчас же обсуждают, что Александр Безносиков почти сразу защитил кандидатскую и недавно защитил докторскую. Это вызывает определённые сплетни, обсуждения, может, повышает популярность. Но в это целиться особого смысла нет: можно и не выиграть, а если выиграешь — может, не так, как ты хочешь. Качество итоговой работы будет меньше: защитился раньше, но тебе стыдно за текст.
- Сколтех имеет право присуждать кандидатов, а сейчас что выдаёт - PhD или кандидата? Ты сейчас будешь защищаться, у тебя кандидат будет?
- Да.
- И в МФТИ у тебя тоже кандидат будет?
- Да.
- Как они стакаются у тебя?
- Никак не стакаются. Абсолютно никакой пользы от того, что защищаешь две кандидатские. Я делаю это просто: во-первых, чтобы закрыть статьи — по каждой теме у меня есть статьи, они будут оформлены в кандидатскую, хорошо, что законченный цикл. И плюс — не портить KPI ни МФТИ, ни Сколтеху.
5. Про теорию информации
- Информация. Что такое информация?
- Если говорить философски, пока не углубляясь в математику, то тяжело даже сказать. Это категория, которую можно использовать для описания того, что мы знаем, что можно передать другим субъектам и что можно использовать, чтобы на практике получать результаты — если максимально общо. Важно подмечать, что информация может быть отделена от конкретного физического объекта: она может быть записана на бумаге, на флешке либо передаваться устно. И, мне кажется, важно подчёркивать, что это что-то, что может быть полезным для человека, по крайней мере в перспективе. Иначе под определение попадало бы очень многое: конкретный паттерн на штукатурке в подвале — это было бы тоже информацией. Никто к этому не относится как к информации, не задаётся вопросом, как передавать, как хранить.
Если сужаться, то уже можно давать строгие математические определения, причём по-разному: по Колмогорову, например, или по Шеннону, сейчас ещё всякие.
- Как на экзамене тебе отвечать надо?
- Если это экзамен по теории информации, я буду спрашивать конкретно про энтропию, взаимную информацию. Может быть, если бы курс был расширен до колмогоровской сложности, ещё спрашивал бы про колмогоровские сложности.
- То есть нет определённого ответа, что такое информация в теории информации?
- Скорее так: информация в теории информации — это набор величин. Информацией можно назвать энтропию, можно назвать взаимную информацию — это зависит от контекста. Есть философская категория, которую я сейчас не очень хорошо определил, но, надеюсь, суть смог передать, и есть формализация этой категории в зависимости от контекста. Если интересует проблема передачи информации — тебе нужна, например, взаимная информация. Если интересует, насколько тяжело информацию хранить, сжимать, — может интересовать энтропия, если используешь кодирование, либо колмогоровская сложность, если интересует универсальный наилучший компрессор.
Ты просишь определить широкий размытый объект. Если поднимаемся на высокий уровень конкретики, должны сужать, как понимаем объект. Если меня интересует передача, я должен понимать его как взаимную информацию, потому что меня интересует, сколько информации при передаче пропало, например, по каналу с шумом, — и таким образом должен оценивать.
- Понятно. Надо уточнять. Но зачем вообще измерять эту информацию? Чтобы что?
- Это мера зависимости случайных векторов. Если у тебя есть приложения, которые опираются на то, насколько что-то зависит от другого, — например, хочешь проверять на независимость либо энфорсить её, требовать независимости. Обучаешь модель и хочешь, чтобы её выходы были независимы от признака, который запрещено использовать в моделях в каких-то странах: например, надо, чтобы выходы модели никак не использовали информацию о расе человека. Ты можешь её не подавать в модель, но модель может извлекать её косвенно из других признаков — например, где человек живёт, его место жительства. А тебе хочется строгой статистической независимости, чтобы никак не влияло. Для этого нужно минимизировать взаимную информацию, а перед этим её, разумеется, надо оценивать.
Либо хочется делать сжатие данных, получать информативный эмбеддинг, например — это можно сделать через максимизацию взаимной информации. Такая полезная вещь: скаляр, который характеризует силу зависимости. Во всех приложениях, где надо либо оценивать зависимость, либо уменьшать, либо увеличивать, можешь делать это через взаимную информацию. Наверное, так можно сказать.
6. Про влияние AI агентов на науку
- Давай про AI slop поговорим.
- Супер. Сейчас я буду ворчать.
- Ты сам используешь ИИ для написания статей, для экспериментов?
- Для экспериментов пока нет. На самом деле надо настроить, потому что это самая, наверное, нудная часть, которую я бы хотел автоматизировать. Для написания — только если что-то перефразировать. Именно писать текст, доказательства я не даю, потому что это ровно та часть, которая мне нравится. Мне нет резона единственную вещь, которая нравится в какой-то области, отдавать на откуп искусственному интеллекту.
Но я, к сожалению, должен заметить: поскольку сейчас все начинают этим пользоваться, скорее всего, в какой-то момент не останется выхода. Иначе будет такая ситуация: я что-то придумал, а человек, который может проверять идеи пачками, сотнями штук в неделю при помощи ИИ, а потом, если идея выстрелит, сразу оформить статейку, быстрее меня всё опубликует. Мне бы было на это пофиг, если бы от этого не зависело, буду ли я тут дальше работать, какова будет моя зарплата. Поэтому, к сожалению, наверное, в перспективе придётся всем этим заниматься. Но я принципиально не понимаю людей, которые это насаждают, выдают за преимущество или за цель, к которой надо стремиться.
Я понимаю в программировании: в IT идёт куча людей за зарплатой. Может, им не супер нравится писать код или писать код конкретно в этой компании. Они бы хотели делать свои пет-проекты, а тут надо писать код, который JSON'ы перекладывает. Поэтому при первой возможности с радостью бегут всё автоматизировать, отдавать какому-нибудь Codex. Но я не понимаю, когда это происходит в науке. Ты пришёл в область, где зарплаты в среднем ниже рынка, где нужно творчество, где люди обычно от этого удовольствие получают. И ты вот эту оставшуюся часть — удовольствие — отдаёшь каким-то агентам. Я вообще не понимаю, зачем люди это делают и почему пропагандируют. Это кошмар, по моему мнению.
- Не все такие умные, как ты, Вань. Кому-то нужно, чтобы за них всё сделал LLM.
- А при чём тут умные? Это не вопрос ума или не ума. Зачем они в эту область тогда пошли?
- Надо в DeepMind попасть, там A* просят, аспирантуру просят. Ну что поделать?
- Ну пускай тогда.

- Что ты думаешь про доказательства математических теорем OpenAI?
- Две вещи, которые хочу прокомментировать. Первая — мотивация, как мне кажется: это делается в преддверии выхода на биржу, они таким образом раздувают свою полезность.
Вторая вещь: то, что они вываливают, зачастую не приводит к пользе для математики, скорее всего, даже наоборот — вредит. Почему? Потому что математика, если понимать её не как область знаний, а как человеческий институт, — это совокупность отношений между людьми: как организованы отношения, работа, как хранятся, накапливаются и передаются другим поколениям математические знания. Этот институт, как он сейчас устроен, несовместим с тем, что делает OpenAI.
OpenAI вывалило кучу результатов, и их нельзя нормально переварить. Никто не выделит отдельно людей, которые будут днями читать всё, что залили на GitHub, переваривать в удобоваримую форму, чтобы человек понял, интегрировать в свои наработки по другим темам, понимать, где это полезно, а где неполезно. Это сродни тому, как человек вместо нормального питания всыплет в себя мешок сахара. Формально можно сказать: «Людям же нужны углеводы». Нужны, но пофиг, что это никак не усвоится нормально. И им точно так же пофиг — они делают это для, как им кажется, выхода на биржу.
То, что сделали, по большей части вредит, потому что будет лежать мёртвым грузом. Никто не будет интегрировать это в систему знаний, думать, где может быть полезно, как переписать получше, чтобы человек понял, или как на основе этого получить результат получше. Более того, скорее всего, это будет вредить, потому что сейчас все так или иначе вынуждены будут этим пользоваться.
И будет разрушаться система. Была интересная задача, может быть, не так важно её было бы решать.
Как с Навье — Стоксом, это отдельная, но смежная история: это задача тысячелетия. Но сама по себе задача бесполезная в том плане, что, если смотреть на одну из формулировок, мы придумываем условия, которые сломают нам модель жидкости. Просто модель. Какая от этого польза — непонятно. Если в модели получается бесконечная энергия, это гарантированно в жизни не может произойти — это выходит за область применимости модели. Если получаешь такое ломающее решение, это гарантированно не решение, которое может произойти в жизни. Жизнь не ломается, там нет бесконечной энергии, физика не ломается. Это изначально заведомо бесполезная работа: поиск того, что не может происходить в жизни, и с этим ничего не сделаешь.
Но что важно и полезно — дорога к решению, это важный milestone. Чтобы дойти к нему, надо, чтобы были сильные команды по математике, по матмоду, по конкретно Навье — Стоксу, чтобы у них были выработаны коллаборации, связи, чтобы искали новые приёмы, методы — как это доказать, то доказать. Пока дойдёшь, будет огроменная пирамида вспомогательных результатов, половина, наверное, будет полезна для реальных приложений. Например, становится понятно, когда возникают или не возникают турбулентности в потоках жидкости, какие силы можно прикладывать к жидкости, какие нельзя и что при их помощи делать. Можно получать стационарные решения, потоки, вихри. Это поможет при дизайне практических объектов — типа систем слива у дамб, гидроэлектростанций, — разнообразные вещи со всех концов инженерного дела.
А тут просто вывалили конечный результат, к которому пришли странной дорогой, которую никто толком не поймёт. Если так будут делать со всеми проблемами, это конец: пропадает необходимость сотрудничать с другими людьми, придумывать красивые доказательства, искать приложения, накапливать знания, придумывать приёмы, делиться знаниями, растить новое поколение математиков, которое тебя может сменить. Необходимость в этом пропадает, если остаётся одна целевая метрика — решить задачу, но теперь к ней будем идти через brute force роем агентов LLMок. Все эти полезные — по сути, единственно полезные для кучи математических задач — продукты пропадают: чпок, их больше нет. Это же будет катастрофа для области. Людям нужно получить 2 триллиона капитализации, и они для этого всё что угодно сделают. У них есть огроменные дата-центры, и они будут запускать их на brute force разных проблем: будут находить что-то нерешённое, натравят 10 000 агентов, и они будут долбить, долбить, долбить, пока не найдут окольную дорогу, совершенно непонятную никому, кроме них. Но формально доказано: «Мы на Lean проверили». Грустно. В целом меня это злит.
- Если заменить OpenAI одним питерским математиком, будет отличие?
- Питерский математик, несмотря на то что у него, насколько я знаю, была асоциальная жизнь, тем не менее промежуточными результатами, по-моему, делился. И это человек, у которого есть серьёзная регуляризация, скажем так, на чувство прекрасного. Его решение вполне смогли проверить за адекватное время, по-моему.
Тут не так важно, кто из людей конкретно решил. Важно, что проблема была решена в рамках текущего состояния института математики. К проблеме вела дорожка не в виде brute force агентами, которая никаких полезных побочных продуктов не выдаёт, а была протоптана дорожка в виде огроменных школ, разбросанных по всему миру: японцы этим занимаются, китайцы, в Штатах занимаются. Они публикуются, пишут, смотрят, что другие делают, разбирают это, проводят совместные семинары.
Когда проблема была решена — несмотря на то что решение приписывают одному человеку, — в построенной пирамиде, по которой взобрались к проблеме, много вкладов кучи других людей. И главное — всё коллективно усвоено. Это не валяющиеся на обочине знания: знания сотнями людей были выработаны, переварены, все друг с другом поделились и оформили их в виде удобных результатов, которые можно переносить в другие области. Различия всё-таки есть.
Различий не было бы, если бы у тебя были десятки тысяч математиков, которых можно посадить отдельно на системе жизнеобеспечения: они так же забрутфорсили бы результат, и потом ты бы их отключил. Тогда тоже не было бы полезного побочного продукта. Это было бы так же кошмарно, как то, что сейчас делают с LLM.
- Я правильно помню, почему Перельман не взял приз, миллион чего-то: ему не понравилась реакция отдельных индивидуумов в математическом сообществе (институте)? Кто-то начал говорить, что он скоммуниздил у них идею...
- У любой серьёзной проблемы есть драма: если люди соревнуются, кто быстрее решит, и кто-то решает, всё равно будут выяснения — «Ты вот это использовал, а мы это сами сделали». Но, насколько я помню, это не было причиной, почему он отказался. Я могу наврать, пускай люди сами потом посмотрят, если будут интересоваться. Насколько я помню, у него больше была мотивация: «Я это не для денег решал, решал, потому что интересно». Поэтому, вроде, отказался и тем выразил позицию. Когда он отказывается и называет такую причину, мне кажется, это выражение позиции: «Вы, ребята, тоже занимайтесь этим, потому что вам нравится, пожалуйста». Если это действительно так и это подразумевается, я бы сейчас с удовольствием эти слова многим людям ретранслировал. Пожалуйста, занимайтесь по большей части потому, что нравится, а не потому, что хотите дофига A* и для достижения этой цели начинаете прибегать к сомнительным методам, типа заменять магистров LLMками. Есть такие разговоры от некоторых очень уважаемых людей, которые уже говорят: зачем студенты, если можно всё делать так?

- Давай быстренько закончим про LLMки. Тебе тяжелее проверять статьи? Ты чувствуешь инфляцию конференций, самих статей на этих конференциях?
- Да, всё тяжелее становится. Во-первых, они, как мне кажется, дико раздуваются, среднее качество статей падает. Количество того, что надо рецензировать, растёт. Уже вводятся новые правила: раньше ты мог выбрать одного — выбираешь просто reciprocal reviewer или как он называется, которому дают рецензировать. А сейчас — любой человек, зависит от конференции, на ICLR так, — если ты соавтор двух статей и более (трех и более - прим. ред.), тебе автоматически назначают нагрузку в виде проверки статей. Тяжело становится.
Сами статьи, мне кажется, в среднем сейчас хуже пишутся. Конечно, все эти Claude'ы, Opus'ы могут сделать очень красивые картинки в тексте — все сейчас этим злоупотребляют, у всех всё одинаково выглядит. Они могут поставить классный эксперимент, визуализировать. Но если давать им писать текст... Они фундаментально отличаются от человека.
У человека есть усталость от того, что он читает. Если я прочитал 10 страниц, я только расплывчато помню, что было на первой: мне надо проскроллить обратно, посмотреть. LLMке вообще пофиг — у неё одновременно весь контекст перед ней. Нет пространственно-временного разделения текста: это прочитала 10 минут назад, это 5 минут назад, это минуту назад. И нет такого, что, пока досюда дочитала, устала. У неё всё схлопывается в одну пространство-временную точку: в любом месте контекста может вытащить нужный токен, нужный value через механизм attention и использовать для вывода. Поэтому нет желания, чтобы для неё написали красиво, хорошо и понятно.