Friday, 14 October 2022

Необходимость интеллектуальной настройки параметров модели и NFL теоремы

Всё, о чём мы говорили по поводу дарвиновской модели и искусственного отбора, справедливо и в отношении так наз. алгоритмов глубокого обучения (в частности, многоуровневых перцептронов и пр. заковык). 

Там происходит ровно то же самое: без настройки (а настройку производит, в конечном счёте, интеллектуальный агент) на решение узко определённого типа задач эти алгоритмы по производительности ничем не отличаются от научного тыка случайного поиска. 

Уверенность в том, что это справедливо и для любого другого алгоритма, проистекает из так наз. "теорем о бесплатном обеде": No Free Lunch Theorems.

Письмо в "редакцию"

Мне написали отклик на мою публикацию "Действительно ли это результат эволюции?", посвященную использованию так наз. генетических алгоритмов при решении практических задач. В частности, я обсуждал использование генетического алгоритма для нахождения оптимальной пространственной формы антенны устройства NASA.

Читатель пишет:

Успешные (приспособленные) размножаются, не приспособленные вымирают. Нас окружают те особи, которые умеют хорошо (успешно) размножаться. Именно это и есть целевая функция (и не важно, что мы до конца не понимаем всех тонкостей).

Не так важно какой отбор: посредством людей или посредством факторов природы. Отбор направлен на уничтожение неприспособленных (в простонаречьи - "слабых").

Моя точка зрения состоит в том, что у эволюции нет активного управления по значениям функции цели. Функции цели вообще нет как таковой, потому что нет оценивания качества решения. Читатель неправ, полагая, что выживание выступает критерием эффективности в контексте эволюции. Критерием является не выживание, а репродуктивное преимущество. Полезной мутацией будет являться любая мутация, увеличивающая репродуктивное преимущество, то есть повышающая численность потомства в данных условиях среды обитания). Полезными могут выступать мутации, являющиеся поломками существующих генов. Такие мутации, закрепляясь в популяции, приводят к деградации функции, за которую отвечал поломанный ген. Полезные мутации с новой функцией на практике не наблюдаются (о них пишут только в книгах как о чём-то теоретически возможном). Далее, для того, чтобы отбор зацепился за ту или иную мутацию, должно быть обеспечено её селективное преимущество. Селективное преимущество — это разница в процентном выражении между числом особей с данной (полезной) мутацией и числом особей без этой мутации. Селективное преимущество влияет на вероятность закрепления мутации (то есть распространения мутации на всю популяцию).

Запись дня

Нерегулярность и неаддитивность функции

Claude Shannon by Alfred Eisenstaedt / The LIFE Picture Collection / Getty Рассмотрим стандартное возражение эволюционистов*, в котором утве...