Kaleidoscope betekent 'kaleidoscoop'. Het is een prachtig en enigszins ongebruikelijk woord dat een instrument beschrijft dat steeds veranderende, kleurrijke patronen creëert.
In de context van het lied gebruikt Miley Cyrus het om de transformerende en betoverende impact te beschrijven die de persoon op haar heeft. Ze zingt: "Just like kaleidoscope colors that cover me", wat suggereert dat de persoon haar wereld vult met levendige kleuren en een gevoel van verwondering, net als de steeds veranderende patronen in een kaleidoscoop.
Soms zit alles tegen en voelt het leven gewoon zwaar. In When I Look At You zingt Miley Cyrus precies over dat moment waarop je wereld instort: "When my world is falling apart / When there's no light to break up the dark" (Wanneer mijn wereld uit elkaar valt / Wanneer er geen licht is om het donker te breken). Ze vergelijkt die chaos met golven die de kust overspoelen waardoor ze de weg naar huis kwijtraakt. Haar redding op zulke momenten is geen ingewikkelde oplossing, maar simpelweg kijken naar die ene speciale persoon. Zodra ze dat doet, verdwijnt de paniek en voelt ze vergeving en rust.
Wat deze popballad zo fijn maakt, zijn de beelden die ze kiest. Ze zingt: "You love me for who I am / Like the stars hold the moon" (Je houdt van me om wie ik ben / Zoals de sterren de maan vasthouden). Dat klinkt misschien wat theatraal, maar het maakt direct duidelijk dat ze zich geaccepteerd voelt. De ander voelt als een droom vol "kaleidoscope colors" (caleidoscoopkleuren): een bonte verzameling wisselende patronen die het grauwe donker wegblazen. Het nummer herinnert je eraan dat een blik van iemand die om je geeft genoeg kan zijn om weer adem te halen.