No hay que confundir el valor de un dato con su representación: el mismo dato puede verse tanto como 165 (decimal) así como A5 (hexadecimal), 245 (octal) y 10100101 (binario) sin modificar su valor. Igualmente puedes comparar una variable con valores en exadecimal sin problemas:
int a;
if (a < 0xA5) {
//.......
}
Ahora bien, si tu problema es simplemente la representación en la pantalla de tus resultados, esta discusión puede serte de utilidad.
Si por el otro lado quieres obtener un texto con la representación en hexa de tus valores puedes usar sprintf (string, "0x%x", number); que produce el código estándard "0xA5" si 'number' tiene el valor 165.
Al final te informo que hay una tabla para hispanohablantes que puede serte de utilidad si no quieres escribir en inglés.
