Respuesta :

billetes de 10 (x)
billetes de 5 (y)

x+y=12
10x+5y=105

Resolvemos el sistema de ecuaciones despejando para x

-5( x+y=12)
10x+5y=105

-5x-5y= - 60
10x+5y=105
--------------------
5x         =45
           x=9

Esto quiere decir que hay 9 billetes de 10 y 3 billetes de 5 
Comprobamos

billetes de 10 =9  (10*9=90)
billetes de 5=3     (5*3=15)
billetes en total=12 (105 dolares)

Si tienes duda consultame.
Suerte.
x=billetes de 10
y=billetes de 5

x+y =12 numero de billetes
10x+5y=105 cantidad de dinero

x=12-y
reeplazo
10(12-y)+5y=105
120-10y+5y=105
120-105=5y
        15=5y
           3=y
x+y=12
x+3=12
x=9