Nedlouho po krveprolití v roce 1421 byl na místě, kde popravili zrádce Holinku, postaven kříž. V roce 1484 zde byla zbudována kaple sv. Kříže, západně od současné kapličky.

V průběhu 16.století místo získávalo na významu, údajně zázračné uzdravení slepé dívky sem lákalo velký počet poutníků. Roku 1515 putoval polický Petr Bílek do Říma, aby tam vypomohl udělení stodenního odpustku pro každého, kdo by v některý z pěri určených dní v roce tuto kapli navštívil, vykonal zde zpověď a finančně přispěl na její údržbu. Bulla stvrzující výše uvedené byla vydána 24. Března 1515. K získání odpustků byla vedena četná procesí z Police. V roce 1669 nechal opat Tomáš dřevěnou kapli přestavět a rozšířit. Přesto stále nestačila pojmout zástupy poutníků,  a tak zde dal opat Otmar roku 1711 vystavět nový kamenný kostel, jeho stavbou byl pověřen polický polír Pavel Jelínek. Kostel dokončený v roce 1720 měl kromě hlavního oltáře sv. Kříže ještě dva oltáře postranní, svatého Vavřince a svatého Benedikta. Ty byly posvěceny 22.září 1737. Původní kaple byla poté stržena.

Josef II. Roku 1787 kostel zrušil a kámen z něj byl prodán Janu Palatovi ze Žďára, ten o rok později skutečně kostel zbořil. Mnoho stavebního materiálu se posléze dostalo do obce, kde posloužilo k výstavbě některých žďárských statků.

Současnou kapli nechal z kamene bývalého kostela vystavět Celestin Velc z Ostaše, vysvěcena byla 8.září 1859. Ten se údajně k jejímu novému zřízení zavázal ve válce rakousko-italské na bojišti u St. Lucie. Slíbil, že pokud vyvýzne z boje zdráv, tak obnoví ostašskou kapli, což také učinil. O několik let později, již v roce 1873 ji obnovil Antonín Špulák.

Zdroj WWW.http://www.kaplickaostas.cz/cs/

Kaplička byla také nazývána kaplí Nejsvětější Trojice, jejímž patronem byl velehradský klášter.

První zprávy o kapli pocházejí z roku 1517, dnešní podoba je 18. století.

Ve výklenku kaple najdete sochu sv. Jana Nepomuckého, který drží kříž. Na oltáři stojí drobné sošky Krista, Panny Marie a také Panny Marie s Ježíškem, která roku 2001 prošla rekonstrukcí.

http://www.jizni-morava.cz/?tpl=42&typ=1&id=5316

Údolí , ve kterém kaplička stojí nese název Kinsai z německého Kinseifen. Slovní část seifen naznačuje přítomnost nějakých sejpů či zejpů, tedy možnost rýžování či těžby drahých kovů, která ovšem k Jesenicku patří.

Po odsunu německého obyvatelstva kaple chátrala, až se téměř rozpadla. Obec nechala vystavět kapli zcela novou v r. 2001 podle původních plánů. K vysvěcení došlo v červnu 2002 a vysvěcení se účastnili i dva synové původních donátorů. Samotná kaple je zasvěcena Panně Marii. Naproti kapličky u potoka má být místo, kde byl v r. 1942 veřejně popraven polský nuceně nasazený dělník za znásilnění německé dívky.

Informace čerpány z Průvodce naučnou stezkou Lovoš.

Kapli v roce 1930 vysvětil želivský opět Bedřich Václav Vavroušek. Obřadu se účastnilo obyvatelstvo z Věže i širokého okolí. Socha Krista Krále, která je umístěna na oltáři kaple, byla vytvořena autorskou dvojicí František Vejs a Josef Deyl z Hořic.

Pod kaplí se nachází krypta, do které byli pohřbíváni členové rodiny Stanglerů. Ostatně právě za tímto účelem byla kaple vybudována. Dodnes zde několik členů rodu odpočívá, i když v minulosti docházelo k rabování i poškozování jejich rakví.

V minulosti byla kaple značně zanedbávána, obrostla kompletně břečťanem a pomalu chátrala. V poslední době ale došlo k odstranění porostu, znovuzasklení oken (původně vitrážových) a úklidu interiéru kaple i jejího blízkého okolí. Kaple je přístupná po dohodě.