Det kunde ha varit en Charm kastade på boken för dess säkerhet.

Harry tar boken som började skrika från det begränsade avsnittet efter att ha snuckat in under hans Invisibility Cloak, utan tillåtelse att vara där eller ta en bok.

“A large black and silver volume caught his eye. He pulled it out with difficulty, because it was very heavy, and, balancing it on his knee, let it fall open.

A piercing, blood-curdling shriek split the silence – the book was screaming! Harry snapped it shut, but the shriek went on and on, one high, unbroken, ear-splitting note.”
- Harry Potter and the Philosopher's Stone, Chapter 12 (The Mirror of Erised)

Spell på böcker är möjliga, och fru Pince har varit känd för att använda alla typer av stunder på böckerna i hennes bibliotek. Det är mycket tänkbart att hon kanske har stavat på (några eller alla) böckerna i det begränsade avsnittet för att förhindra att eleverna smyger in och tar dem.

“Although I have removed the usual library-book spells from this volume, I cannot promise that every trace has gone. Madam Pince has been known to add unusual jinxes to the books in her care. I myself doodled absent-mindedly on a copy of Theories of Transubstantial Transfiguration last year and next moment found the book beating me fiercely around the head. Please be careful how you treat this book. Do not rip out the pages. Do not drop it in the bath. I cannot promise that Madam Pince will not swoop down on you, wherever you are, and demand a heavy fine.”
Quidditch Through the Ages

Det finns ingen förklaring till varför den skriker. JKR antar förmodligen bara det för den dramatiska effekten som en skrikande bok i en magisk skola skulle ge.

Alla böcker i det begränsade området finns med bra skäl. Den här boken är därför att den skriker.

Observera att här är filmen samvetsgrant replikerande JKRs roman

He had to start somewhere. Setting the lamp down carefully on the floor, he looked along the bottom shelf for an interesting looking book. A large black and silver volume caught his eye. He pulled it out with difficulty, because it was very heavy, and, balancing it on his knee, let it fall open.

A piercing, bloodcurdling shriek split the silence -- the book was screaming! Harry snapped it shut, but the shriek went on and on, one high, unbroken, earsplitting note. He stumbled backward and knocked over his lamp, which went out at once. Panicking, he heard footsteps coming down the corridor outside -- stuffing the shrieking book back on the shelf, he ran for it.

- Harry Potter och Philosopher's Stone, kapitel 12 (The Mirror of Erised)

Det finns också andra charmiga böcker i Harry Potters historier. Som "Monster Monster Book"

"How do we open our books?" Malfoy repeated. He took out his copy of The Monster Book of Monsters, which he had bound shut with a length of rope. Other people took theirs out too; some, like Harry, had belted their book shut; others had crammed them inside tight bags or clamped them together with binder clips.

"Hasn' -- hasn' anyone bin able ter open their books?" said Hagrid, looking crestfallen.

The class all shook their heads.

"Yeh've got ter stroke 'em," said Hagrid, as though this was the most obvious thing in the world. "Look --"

He took Hermione's copy and ripped off the Spellotape that bound it. The book tried to bite, but Hagrid ran a giant forefinger down its spine, and the book shivered, and then fell open and lay quiet in his hand.

"Oh, how silly we've all been!" Malfoy sneered. "We should have stroked them! Why didn't we guess!"

- Harry Potter och Fångaren av Azkaban, Kapitel 6 (Talons och Tea Leaves)

Som @Bellatrix sa, verkar spell på böcker ganska vanligt, och fru Pince har varit känd för att använda alla slags stava på böckerna i hennes bibliotek.

Though I have removed the usual library book spells from this volume, I cannot promise that every trace has gone. Madam Pince has been known to add unusual jinxes to the books in her care. I myself doodled absentmindedly on a copy of Theories of Transubstantial Transfiguration last year and next moment found the book beating me fiercely about the head. Please be careful how you treat this book. Do not rip out the pages. Do not drop it in the bath. I cannot promise that Madam Pince will not swoop down on you, wherever you are, and demand a heavy fine.

- Quidditch genom åldrarna, Förord

Svaret är enklare enligt min mening, men som någon som har lite erfarenhet av skript är jag helt säker. Harry är i det begränsade avsnittet, där han inte borde vara, med sin osynlighetsklädsel, viskar för att det är natt och allt är tyst! Liksom detta var inte tillräckligt öppnar han en slumpmässig bok, som han aldrig har berört tidigare.

Nu ser du också att det enklaste som kan riskera vår hjälte och hålla oss andfådd är att den okända boken börjar skrika!

Innan det ögonblicket visste vi att det bara var möjlighet att fru Norris eller någon annan kunde komma och se Harry, men efter att boken skrek, kände vi alla att det är mer sannolikt att hända!

Jag tror att det skrek på grund av en charm eller stavning som lagts på den boken, för om någon fick veta om trollkarlens sten och Nicolas Flamel och inte kunde hitta något på honom i de obegränsade sektionerna, skulle de troligen se i det begränsade avsnittet eller åtminstone Harry och hans vänner skulle.