§ 187. Математические способности и видение будущего
В обучении искусственных нейронных сетях повсеместно используют метод обратного распространение ошибки. Смысл которого заключается в передачи сигнала поправки настройки весов выхода к входу. И у этого метода есть единственный параметр, который не детерминирован математически это learning rate (коэффициент скорости обучения). Его подбирают эмпирически от 0 до 1. Чем значение коэффициента ближе к единице (больше), тем скорее нейросеть поймет наиболее очевидные, и отчетливые закономерности.
Поскольку округление весов на значительные величины происходят очень быстро. Однако теряется точность, когда нужно найти наиболее неочевидные и далёкие закономерности. Чем значение коэффициента меньше, тем больше требуется эпох обучения для достижения результатов сравнимых с первым случаем, однако после его преодоление открывается возможность к более тонким настройкам.
Люди давно заметили, что одни схватывают материал быстрее других. Это наблюдение увековечено в речи такими словами: легко/быстро обучаемый, успевающий и тд.
Но начнем издалека.
Я провел небольшой эксперимент, который заключается в следующем: допустим людям с ярко выраженной как с хорошей так и с плохой обучаемостью предложить ответить на вопрос, ответ на который точно никто не знает. В качестве такого вопроса было взято следующее: “Каким вы видите будущее через 50 лет”.
- война
- бессмертие для избранных
- нанороботы в медицине
- экологический крах
- опять средневековье
- поживём - увидим
- дисплей, встроенный в глаза
- люди будут убегать в виртуальную реальность
- тотальная слежка.
Мне этот опыт проиллюстрировал правило разного подхода к решению проблемы, одни стараются не делать громких и зачастую необоснованных предположений, а вторые их делают.
Вторая же группа не заморачивалась насчет точности, и не боялась сделать ошибку, просто брала менее весомые жизненные обстоятельства, личный опыт, фильмы, прочее и переносила на будущее. И поскольку весы, на все эти раздражители, настроены на малое изменение было невозможно предугадать что же будет в ответе.
Такое забавное наблюдение между математическими способностями и мироощущением.