Hilfe

Naja, zumindest nicht ohne die Menge zu kennen, in der diese Gleichung gilt. 

Sind a&b reelle Zahlen & der Mal-Punkt meint die "normale" Multiplikation, so existieren solche Zahlen nicht. Sind a&b Matrizen, so müssen beide quadratisch & gleich groß sein, damit beide Seiten überhaupt definiert sind. Je nach zugrunde liegendem Körper gibt es aber dennoch mehrere (ggf. unendlich viele) Matrizenpaare, die diese Ungleichung erfüllen. Auch ganz andere Grundmengen sind denkbar.

Vielleicht kannst du die komplette Aufgabenstellung posten, dann kann dir eventuell mehr geholfen werden.

Wofür stehen a und b?

Für ganze und reele Zahlen klares NEIN.

Es gibt aber noch andere Möglichkeiten.

Aufgabe unvollständig.