داستان در آکادمی شیومی، یک آکادمی بزرگ و معتبر با دایتوشوکان (به معنای واقعی کلمه، "کتابخانه بزرگ") است که رقیب کتابخانه ملی ژاپن است. کیوتارو کاکی به عنوان یکی از اعضای باشگاه کتابخانه به دایتوشوکان می رود تا از خواندن به تنهایی لذت ببرد. او سپس با تلاش یک به اصطلاح "چوپان" که خواسته های مردم را برآورده می کند، با دختری به نام تسوگومی شیراساکی آشنا می شود. در نهایت، دختران بیشتری به لطف "چوپان" به باشگاه می پیوندند.
