La verdad, si usar un hashtable no es obligatorio, yo usaría dos array string + un array "buffer" para saber cuantas entradas van a tener los arrays principales..

Primero, necesitas saber como vas a organizar las definiciones.  Para eso te recomendaría usar, como dices, un archivo de texto plano con cualquier extención. Y para separar los términos, algún caracter especial como "|" por ejemplo.

Una vez determinado eso, haría un algoritmo sencillo que me devuelva una parte u otra (antes o despues del "|") cuando le pase la linea del archivo como argumento. Algo como..

public String separar(String s, boolean f) {
    int index = s.indexOf("|");
    if (f) {
        return s.substring(0, index);
    } else {
        return s.substring(index + 1, s.length);
    }
}

Después, un algoritmo que lea el archivo, que determine cuantos elementos deben tener los arrays principales, y que almacene los datos en su lugar. Para esto podes leer las lineas con un Scanner, separar ambos lados de la linea con el algoritmo "separar" y asi ubicar todo donde debe ir.

Para eliminar el término, igualaría el elemento en los dos arrays a null o "", y después con el algoritmo que escribe en el archivo, checkear si el elemento es null o "", y en caso de serlo, saltearlo.

Para el algoritmo de escritura en el archivo/añadir un elemento a la tabla, escribiría el término y su definicion directamente al final del archivo (recorda seguir la organización del archivo (el "|" en este ejemplo)), e invocaría al algoritmo que lee el archivo para que se actualice la tabla.
En esta misma función, acordate de checkear si el elemento es null o un string vacío, para asi saltearlo.

Y con eso ya sería todo, no? :P
Espero que te sea de ayuda.