@Bigma ну я сделал по-колхозному, получил список одних значений, потом список других значений и дальше через функции объединял. Коряво, но задачу решил.
А так вопрос остается открытым, так как я уже не впервые с такой проблемой сталкиваюсь и костыли при большом количестве значений тормозят скрипт. Терпимо, но хочется лучше :)
@Fox, вы правы: источник изображения (скриншот/чтение из файла) не важен, здесь экшен работает полностью корректно. Мое заблуждение относительно источника было связано с тем, что сначала я читал изображения из файла, залитые полностью одним цветом (вот здесь экшен работает некорректно и выдает значения 100% 0x 0y), в то же время, когда я делал скриншоты, изображения брал реальные: какие-то фоны, предметы.
Тестовый проект с двумя вариантами поиска одной фотографии в другой: ErrorImageSearch.rar