Quizá tengas algo de sobrepoblación. Los annacara necesitan 80l para ellos solos, los ancistrus se ponen muy grandes mas corys mas tetras. Para mi 68l brutos son pocos para esos peces. Ten en cuenta que cuando metes sustrato, plantas y demas, pierdes bastantes litros. El filtro tampoco me gusta mucho, pero bueno, ya cada uno hasta donde puede llegar. Prefiero uno externo. Ya sea mochila o de vaso. Basicamente, tienes mas espacio dentro del acuario y son mas efectivos. De hecho no recomiendo los filtros internos en ningun caso.
Si a eso le sumamos que las plantas que tienes son de bajos requerimientos pues tienes el problema.
Empezaría reduciendo el numero de peces, renovando el filtro por uno mas efectivo y haciendo cambios de agua de mayor cantidad. Alrededor del 40% semanales.
Sobre el helecho, es normal, estas plantas se reproducen por las hojas, y de ellas sales los hijuelos que aparecen a partir de unas manchas oscuras en las hojas mas antiguas.
Espero que te sirva y no te tomes a mal lo del filtro. Es solo una recomendación.
Un saludo.