Solche Teilen-mit-Rest-Fragen für negative Zahlen lösen zu wollen ist eher unüblich. Ich könnte mir gut vorstellen, dass du eventuell die Angabe falsch abgeschrieben hast - kann das sein?
Um Fragen dieser Art zu lösen, suchen wir Zahlen a,b∈Z, für die gilt
a⋅(−17)+b=96 und 0≤b≤17. .
Für a=-5 und b=11 stimmt die Gleichung, die -17 geht also -5 Mal in die 96.