Практики жизненного цикла систем машинного обучения (Анатолий Левенчук, SECR-2016)

Короткая ссылка: 20161028AF

Докладчик: Анатолий Левенчук

Инженеры собирают свои системы из модулей, имеющих чёткие интерфейсы. Но по мере роста сложности системы и перехода к более agile вариантам жизненного цикла, метафора мастера-сборщика меняется на метафору садовника, возделывающего постепенно проявляющийся по его задумке сад. Системы машинного обучения сначала делаются традиционным инженерным способом, но это только половина дела: дальше их нужно «возделывать» — их нужно учить. Увы, таблеток знаний не придумали даже для кремниевых мозгов, и спроектировать-собрать систему глубокого машинного обучения на нейронных сетях из заранее подготовленных знаний не получается. Если хочется «поправить» обученную систему для новых ситуаций, её приходится переучивать – и это очень хорошо, если это удаётся делать не с нуля.
А дальше уже начинают говорить, что для систем, которые непрерывно сами обучаются всё новым и новым ситуациям, на горизонте метафора лесника – лесник уже не может быть уверенным, что система растёт по его замыслу. Но он надеется, что его вмешательство позволит системе не загнить и не запустеть в своей неизбежной дикости. Инженерия всё более и более интеллектуальных систем уже никогда не будет прежней инженерией, когда инженер мог контролировать информационную систему до последней строки программного кода, всё более значительная часть информационной системы перестаёт жить по законам программной инженерии и компьютерной науки. Матрицы коэффициентов глубокой нейронной сети не больно-то проконтролируешь, ошибки обучения не больно-то изолируешь и исправишь. Жизненный цикл информационной системы в таком мире меняется, и мы видим зарождение новых практик инженерии машинного обучения – примерно такое же, какое было в 1965-1968 годах, когда появлялась дисциплина software engineering.