Я установил рыночный диапазон в х пунктов. А сделка была совершена по цене х+y пунктов. Почему? Разве сделка не должна была отмениться?

При использовании Вами рыночного диапазона сделка не будет совершена, если цена вышла за его пределы в ХУДШУЮ для Вас сторону. Если изменившееся цена выгодна для клиента, сделка совершается. В Вашем случае, очевидно, была как раз такая ситуация.