Álgebra Exemplos

Resolva a Função Operação [[1,0,0,0,2/3],[0,1,0,0,-2],[0,0,1,0,1],[0,0,0,1,1]]
Eu não consigo resolver este problema.