The verb recoger means collect/pick up the things lying on the floor, the mess. It is also used as to tidy up or clean up (rooms, the house):
Hijo, después de jugar, recoge los juguetes – Son, after you finish playing, please, pick up your toys
Después de cocinar hay que recoger la cocina – After cooking, it’s necessary to clean the kitchen
The verb recoger in this meaning is used very often!
This verb can also mean to take things from someone or to pick up someone:
Necesito recoger a mis hijos del colegio – I need to pick up my children from school
Ordenar, on the contrary, suggests that things are in their place but messed up. It can be translated as arrange things:
Voy a ordenar mis papeles – I’m going to organize / arrange my papers
Tenemos que ordenar el armario – We need to arrange things in the wardrobe
Thus
Recoger los libros = Los libros están en el suelo, en la cama, encima de la mesa... Hay que ponerlos en la estantería
Ordenar los libros = Los libros ya están en la estantería. Ahora hay que poner los grandes juntos, los pequeños juntos, la poesía en un estante y las novelas en otro
The verb ordenar also means to order, command:
Mi jefe me ordena hacer trabajos difíciles – My boss orders me to do difficult work
On the contrary, if you want to order something in a restaurant, you should never use ordenar, but pedir:
CORRECTO: Voy a pedir una pizza – I’m going to order pizza
INCORRECTO: Voy a *ordenaruna pizza – I’m going to order pizza