Тут главное понять, что даже собирая по слоям, надо следовать некоторой схеме. Обычно схема такая — собрать крестовые на слое, потом добавлять уголки. Понятно, что у второго слоя нет угловых. На последнем слое сначала ставят кубики на своё место, а потом разворачивают.
Математически это дело описывается алгеброй — циклические перестановки. Все квадратики нумеруются. И записываются в виде вектора. Правила перемещения элементов вектора — как раз модель перемещения кубиков. Если взять за основу абсолютную ориентацию, то 6 квадратиков никогда и никуда не перемещаются — центральные на каждой грани. 24 — только крестовые и меняются только с такими же. Ну и 24 угловых аналогично. Такие представления позволяют находить оптимальные перестановки из любого положения. После небольшого изучения циклических перестановок становится понятным, почему нельзя развернуть только один "кубик" — всегда участвует пара.
Кубик Рубика — вот неплохая страничка.
А здесь — очень наглядная демонстрация операций —
Алгоритм сборки Кубика Рубика (Введение)404 — тоже ничего.