Абу Канабек - интервью с золотым медалистом IOAI

Казахстан дебютировал на International Olympiad in Artificial Intelligence (IOAI) и занял 4-е место в командном зачёте. Лучшим в сборной стал 9-классник Абу Канабек — золото и 9-е место в личном зачёте. Поговорили с ним о его пути к награде, подготовке и планах на будущее.

У меня был олимпиадный опыт: до 9 класса — олимпиадная математика, затем — спортивное программирование. Такой сплав помогает быстро придумывать идеи и так же быстро их реализовывать.

Перед республиканской олимпиадой я частично прошёл курс РФМШ по машинному обучению, но формат AI-олимпиад новый, поэтому большую часть знаний пришлось добирать «на ходу» - на отборах, сборах и уже после.

Задачи республиканской олимпиады и сборов оказались близки к IOAI. Например, на республиканском этапе была задача про корги, где важнее было посмотреть кросс-корреляцию признаков, а не сразу обучать модели - этот подход почти один в один пригодился во втором туре IOAI. Была и задача на сопоставление медицинских отчётов - закрывала темы NLP и matching, которые встретились в финале. На сборах преобладали задачи по Computer Vision, и эта тема также часто всплывала на IOAI.

Такой набор задач помог сфокусировать самоподготовку: я самостоятельно разобрался с PyTorch благодаря бесплатному курсу на YouTube, базовыми трансформерами и много практиковался, дорешивая задачи республиканской олимпиады и участвуя в соревнованиях на Kaggle.

В итоге на IOAI получился интересный микс: чтобы побеждать, нужны и идеи, и знание конкретных фреймворков/архитектур. И хотя задачи на идейную составляющую преобладали, по моему мнению к формату AI олимпиад пока все-таки ближе программистский бэкграунд, перекос в математические олимпиады все-таки избыточен для решения таких прикладных задач

Это были мои первые международные соревнования, если не считать олимпиаду в Монголии по математике (участвовало 3 страны). Масштаб впечатлил, но больше всего запомнилось общение с ребятами из разных стран — с некоторыми даже обменялись подарками.

Что бы я хотел знать заранее:

1. Изучите платформу. Часто через консоль/SSH работает быстрее и стабильнее.
2. Ведите дневник экспериментов. К каждому эксперименту - что меняли, какие фичи/датасеты, целевая метрика. Иначе когда эксперимент завершится придется тратить время, чтобы вспомнить, что там было. Короче говоря, ведите логи ваших экспериментов и отправок.
3. Больше верьте в себя. Казалось, что нас «порвут», а на деле у многих отбор был слабее. Не overestimate-те ваших соперников, на деле все может оказаться совсем по-другому!
4. Отправляйте решения рано и часто. Меньше очередей и падений, больше итераций и калибровки по лидерборду. Вы сможете быстрее получить результат за отправку и сможете больше экспериментировать.
5. Грамотно подключайте GPT. На IOAI была локальная мини ChatGPT. Дайте модели чёткий контекст, приложите бейзлайн (пусть объяснит/допишет части), попросите быстрый прототип/улучшения — и обязательно валидируйте результат. Старайтесь выжать из него максимум!
6. Готовьтесь не только на сборах. После сборов перед олимпиадой обычно есть еще 1 месяц, во время которого можно усиленно готовиться.
7. Домашку делайте на максимум. Первый тур оказался сильно связан с хоум-таском, поэтому вам потребуется меньше времени чтобы разобраться в условиях его задач.

Думаю, формат IOAI будет эволюционировать: будет меньше «гптшек»/автокомплита, больше вычислительных ресурсов и меньше технических проблем с отправкой решений.

Думаю лучшая подготовка прорешать отборы других стран, особенно тех кто хорошо выступили на самой олимпиаде**.** Школьники Польши, России, Сингапура доминировали на олимпиаде, так что видимо их тренера что-то понимают.

Теория машинного обучения тоже важна, но все-таки формат олимпиады такой, что я бы дал 20–80 в пользу практики. Я думаю теории нужно ровно столько, чтобы понимать, что и зачем ты делаешь.

При этом уже сейчас понятно, что у AI олимпиад для школьников есть некоторая специфика по сравнению с подобными “взрослыми” ивентами вроде тех, что проводятся на площадке Kaggle. В первую очередь из-за жестких ограничений по времени: олимпиада идет в течение одного дня, а kaggle несколько месяцев. Однако играть на победу в таких соревнованиях может быть слишком расточительно по времени, поэтому лучше разбирать отборы других стран.

Пока фокус на олимпиадах. Если будет возможность подключиться к ресёрч-проекту — с удовольствием: это ценно не только для резюме, но и для реального исследовательского опыта.

На финал Республиканской олимпиады проходит около 40 человек - тогда как я уверен что талантливых школьников намного больше, просто они не знают о таком направлении.

Я думаю что нужно пытаться расширять воронку и популяризировать направление искусственного интеллекта в целом, чтобы больше ребят дошли до уровня отбора. Да и в целом, хочется чтобы дети знали что AI направление им посильно и до универа. Вы уже двигаетесь в эту сторону — желаю успехов!

Спасибо Ералыге за организацию этого замечательного интервью