Sí, formatear borra TODO. Restablece el sistema de archivos (FAT12/16/32) a estado de fábrica, eliminando la tabla de asignación. Las fotos siguen físicamente en la memoria hasta que se sobrescriben, pero la cámara/PC ya no las "ven".
Solo formatea después de haber copiado y verificado todas las fotos en tu ordenador (y preferiblemente en dos discos).
Tu Sony Cyber-shot 2.1 MP: menú → Formatear → Confirmar. Úsalo también si la tarjeta da errores extraños; a veces "cura" sectores marcados como malos.