En un momento dado, una de sus demos fue escuchada por Gordon Mills, manager de Tom Jones y dueño de la compañía MAM Records. A Mills le convence lo que escuchó, y concierta una cita con el joven O'Sullivan.
Sin embargo este encuentro estuvo a punto de dar al traste con su carrera, Gilbert se presentó con una especie de uniforme escolar: pantalón corto, pelo cortado a cepillo, una corbata ridícula, calcetines de colores y una gorra de "teddy boy".
Mills horrorizado, insistió en que aquella imagen no podía hacerle ningún bien, pero Gilbert no se bajó del burro, y así fue como empezó a actuar tanto en los locales que le proporcionaba Mills, como en sus primeras actuaciones televisivas (en las que también lució alguna vez un jersey de lana con una inmensa "G" bordada en colores chillones).
A partir de entonces Gilbert O'Sullivan empezó a ser conocido más por su ridícula indumentaria que por sus canciones, pero ese solo era el primer paso.
El segundo fue mostrar su talento en una serie de composiciones que iban a formar parte de su disco de debut, en 1971. Una de ellas fue la excelente "Nothing rhymed", que hizo que el público empezara a tomarse en serio a aquel chico raro que vestía de forma tan graciosa y tocaba el piano al estilo de Elton John.
Ganada la atención del público, Gilbert O'Sullivan adopta una imagen algo más seria, y se centra en crear unas composiciones que le llevaran a ser aceptado también por la crítica. Entonces llegó 1972, su año mágico. "Alone again (naturally)", primero, y posteriormente "Claire", dedicada a la hija de Gordon Mills, le llevaron al estrellato internacional absoluto.
Con un estilo pop con sofisticados arreglos orquestales y soft-rock de fácil escucha, conquistó las listas de ventas británicas y norteamericanas con su meloso y elegante proceder melódico y su aguda capacidad como letrista.
En 1980 su nombre volvió a estar en boca de todos gracias al melodioso y pegadizo tema "What's in a kiss", su último gran éxito.
