После выпуска неизданного материала в рамках альбома OK Computer OKNOTOK, эта песня стала самой известной «потерянной песней» Radiohead.
Дневник гитариста Эда О’Брайена, работавшего в то время с Томом Йорком, датирует песню 28 июля 1999 года:
«Мы работаем над абсолютно новым материалом, поэтому сегодня продвинулись не так сильно, как вчера. Мы обсудили «Follow Me Around» и как бы мы хотели исполнить эту песню вместо того, чтобы сразу взяться за ее исполнение. Это бы возвратило нас в старые привычки».
Прошлая личность рассказчика потускнела в его сознании, но все еще постоянно присутствует. Подобно тени, она следует за ним повсюду, напоминая о былом. Рассказчик знает, что личность существует, но никогда не сможет до нее добраться.
«Nowadays I get panicked
I cease to exist
I have ceased to exist»
Вернувшись к своему прежнему Я, рассказчик понимает, что полностью потерял или забыл себя. Он не может сохранить воспоминаний о своей прошлой личности и никогда не сможет вернуться к ней. В результате его охватывает паника — всё было напрасно.
За день до выпуска песни было представлено музыкальное видео с участием актера Гайя Пирса. На видео камера-дрон преследует персонажа Пирса, создавая давление, под которым он вынужден в страхе бежать из квартиры.
Песня редко исполнялась Radiohead и на сольных выступлениях самого Йорка. Так было до выступления в Торонто в 2000 году, когда фанаты создали специальный сайт followmearound.com, требуя релиза композиции. В 2017 году Йорк вместе с гитаристом Джонни Гринвудом представили новую аранжировку трека, а в 2021 «Follow Me Around» была включена в компиляцию Kid A Mnesia и выпущена вторым синглом 1 ноября.