@Fox, вы правы: источник изображения (скриншот/чтение из файла) не важен, здесь экшен работает полностью корректно. Мое заблуждение относительно источника было связано с тем, что сначала я читал изображения из файла, залитые полностью одним цветом (вот здесь экшен работает некорректно и выдает значения 100% 0x 0y), в то же время, когда я делал скриншоты, изображения брал реальные: какие-то фоны, предметы.
Тестовый проект с двумя вариантами поиска одной фотографии в другой:
ErrorImageSearch.rar