ATENCIÓN: Las siguientes tareas deben ejecutarse como root o usando sudo.
Primero es aconsejable que verifiques que tu sistema esté totalmente actualizado:
yum update
yum install kernel-devel xinetd gcc
(Si usas un kernel SMP, reemplaza kernel-devel por kernel-smp-devel.)
Ahora debes asegurarte de que el servicio xinetd está ejecutándose y de que se iniciará automáticamente cada vez que reinicies. Para ello puedes usar la herramienta system-config-services.
cd /home/nombre_de_tu_usuario/Desktop
rpm -Uvh VMware-server-*.rpm
Ahora viene el "truco": es necesario crear un archivo vacío con el nombre linux.h dentro del árbol de archivos del kernel. En mi caso el comando es:
touch /usr/src/kernels/2.6.18-1.2849.fc6-i686/include/linux/linux.h
ACTUALIZACIÓN: en algunos casos, también es necesario copiar el archivo config.h al árbol de archivos del kernel.
cp /usr/src/kernels/2.6.18-1.2849.fc6-i686/include/config/i2o/config.h \
/usr/src/kernels/2.6.18-1.2849.fc6-i686/include/linux/
(Se debe reemplazar 2.6.18-1.2849.fc6-i686 por lo que corresponda al kernel que estás usando.)
Con esto ya es posible ejecutar el comando vmware-config.pl y seguir las instrucciones (básicamente hay que responder "yes"a todas las preguntas ;-)) para realizar la configuración de VMware. Si todo va bien, podrás iniciar el programa desde el menú de aplicaciones (en la sección "SIstema" o "Herramientas del sistema") o ejecutando el comando vmware desde un terminal.
Más información en el foro de Fedora.