Solo tienes que mirar el número de operaciones que hay que hacer en función de n. Empezando por lo básico, una operación sencilla (i=i+1; o x = y*z;) tendrían orden 1 puesto que son una operación.

Así el "algoritmo" (si se le puede llamar algoritmo)
 

tmp=sqrt(-4*a*c);
x1 = -b+tmp;
x2 = -b-tmp;
x1 = x1/2*a;
x2 = x2/2*a;

Tendría orden O(5) puesto que son 5 operaciones. Decimos que es de orden constante (son siempre 5 operaciones), luego es equivalente al orden O(1). Por lo que recuerdo, dos órdenes O1 y O2 son equivalentes si uno puede acotar superiormente al otro al multiplicarle una constante. Es decir, los ordenes O1 y O2 son equivalentes, si hay un A y un B tal que (asintóticamente) A*O1>O2 y O1<B*O2. Creo que eso ya lo sabes, así que no voy a entrar en detalles y explicarlo en profundidad. Si no te queda claro dilo y lo explico.

Otro algoritmo algo más complejo sería el algoritmo de burbuja (copy-paste de internet)

1. for (i=1; i<N; i++)
2.      for j=0 ; j<N - 1; j++)
3.           if (lista[j] > lista[j+1])
4.                temp = lista[j];
5.                lista[j] = lista[j+1];
6.                lista[j+1] = temp;

Así el orden del algoritmo sería O((N-1)*(N-1)*4)=O(4*N^2 - 8N + 4), o lo que es equivalente, O(n^2) (n cuadrado).

Ese es el método "genérico": mirar el número de instrucciones en función de n y luego reducir. Luego cuando tienes práctica, cuando ves un algoritmo tan tonto como el de arriba lo haces a ojo y dices "Dos bucles anidados? O(n^2) del tirón". Pero hay que tener cuidado con eso no nos vayamos a pasar de listos.

Saludos!