Le 11 janvier 2005, Steve Jobs présentait l'iPod shuffle au public de la Macworld, sous la forme d'un de ses fameux « one more thing ». L'iPod shuffle est alors le premier iPod sans écran et inaugure l'utilisation de la mémoire flash NAND.
Début 2004, Apple contrôle 31 % du marché du baladeur musical numérique : les concurrents de l'iPod sont alors ces centaines de modèles de clefs USB à mémoire flash, ainsi que quelques modèles plus cossus à disque dur. La firme de Cupertino décide d'aller à la conquête de ce marché en lançant l'iPod mini, un iPod à disque dur un peu plus petit et un peu moins cher que son grand frère. C'est un succès : en un an, l'iPod double sa part de marché pour atteindre 65 %.
L'iPod shuffle entre en scène : il doit permettre à Apple de se battre non plus sur le haut de gamme, mais sur le bas de gamme aussi — avec l'objectif très clair que « iPod » devienne synonyme de « baladeur musical ». Matériellement, l'iPod shuffle est extraordinairement similaire à ses concurrents : il reprend le format « stick » très en vogue et utilise le firmware et le processeur STMTP35xx de SigmaTel, qui équipe alors les deux tiers des clefs MP3.
Il innove cependant dans son interface : alors que la plupart des clefs utilisent un écran LCD une ou deux lignes avec des boutons de navigation, l'iPod shuffle se passe totalement d'écran. Il se repose sur l'alliance chère à Apple du logiciel (lecture aléatoire à partir de la fonction de remplissage automatique d'iTunes ou lecture en ligne avec des listes de lecture) et du matériel (contrôles circulaires en façade, commutateur du mode de lecture au dos). Cette interface provient d'une réflexion sur les usages de la musique en mobilité : selon Apple, la plupart des utilisateurs utilisaient la lecture aléatoire sur leur iPod.
L'iPod shuffle inaugure aussi chez Apple une réflexion sur le wearable computing, l'informatique que l'on porte sur soi. L'iPod shuffle 1G pouvait se porter autour du cou, comme un pendentif de luxe. Son successeur, présenté un an et demi plus tard, est présenté comme l'iPod « le plus facile à porter » (« the most wearable iPod ever »). Deux fois plus petite que la première génération, la deuxième génération adopte un format « pince à linge » coloré qui permet aux utilisateurs de clipser leur iPod shuffle à leurs vêtements, et aux créatifs de TBWA\Chiat\Day d'offrir une publicité mémorable à Apple.
La troisième génération révèle d'autres recherches chez Apple, celle sur le contrôle vocal : deux ans avant Siri, l'iPod shuffle 3G « parle » à ses utilisateurs grâce à la technologie VoiceOver. Apple pousse le concept du shuffle à son paroxysme, en supprimant tout bouton de son baladeur : le casque, doté d'un micro et d'une télécommande, devient la seule interface. C'est un échec : si le système est extraordinairement élégant, il est aussi plus compliqué à utiliser que les simples boutons.
Apple revient aux fondamentaux avec la quatrième génération, présentée en septembre 2010 : elle reprend les contrôles de l'iPod shuffle 2G, dans le format carré de l'iPod nano 6G. Alors que l'iPod nano a longtemps été le modèle le plus vendu, la mode est aujourd'hui à l'iPod touch — mais le baladeur musical n'est plus en vogue, et même la version sous iOS se vend de moins en moins. L'iPod shuffle fête ses sept ans, et il ne serait pas étonnant qu'il n'atteigne pas la décennie.