@Fox, вы правы: источник изображения (скриншот/чтение из файла) не важен, здесь экшен работает полностью корректно. Мое заблуждение относительно источника было связано с тем, что сначала я читал изображения из файла, залитые полностью одним цветом (вот здесь экшен работает некорректно и выдает значения 100% 0x 0y), в то же время, когда я делал скриншоты, изображения брал реальные: какие-то фоны, предметы.
Тестовый проект с двумя вариантами поиска одной фотографии в другой:
ErrorImageSearch.rar
иногда перестает скрывать, что стоит галка что не стоит в ресурсе "список" вариант "Check", ресурс никак не скрывается. вчера подобный баг случился, там кажется наоборот скрывал, что с галкой что без. Если отредактировать эти 2 ресурса как было рашьше то все становится на свои места, или если отредактировать переменную, значение, написать например тут и там не ok, а у меня именно с этим вариантом возник баг после того как переименовал с Одноеласники на ok, так вот если переименовать тут и там как угодно, то работает правильно. Мне конечно придется изменить вариант с ok на что то другое, но жалко потомучто коротко и при этом абривиатура очень ясная. 

