Álgebra Ejemplos

Resuelva la operación de la función f(x)=x-3g(x)=x^2-x(f*g)b
No puedo resolver este problema.