Es la primera vez que oigo el nombre de "Radix sort". El concepto no es muy complicado. Si no sabes como funciona, pásate por la wikipedia (yo acabo de leerlo), preferiblemente la versión inglesa, en español está fatal el artículo.

Lo primero, yo empezariá haciendo funciones que luego te sean de ayuda como "int digito (n,i)" que te de el dígito i-esimo del número n, o "int numDigitos (n)" que te diga el número de dígitos del número n (en principio, si está en base 10, el número de dígitos será el logaritmo en base 10, redondeado al entero más bajo).

Luego el algoritmo sería algo así:

int [] radixSort (int numeros []){
  int listaOrdenados []= numeros; // copiar la  lista de numeros
  int listaIndices[10][];
  int numDigitos = numDigitosMayor ();/ Calcular el número de dígitos que tiene el mayor
  for (int i=0; i<numDigitos; i++){
    for (int j=0; j<listaOrdenados.size (); j++){
      int dig=digito (listaOrdenados[j], i);
      int ne = listaIndices [i].size ();
      listaIndices [i][ne]=dig;
    }
    for (int d=0; d<10; d++){
      int pos=0;
      for (int j=0; j<listaIndices [d].size (); j++){
        listaOrdenados [pos]=listaIndices [d][j];
        pos++
      }
    }
  }
  returnn (listaOrdenados);
}

No va a compilar, y probablemente tenga algún fallo. Te lo pongo solo para esplicar un poco más o menos el algoritmo.