Já te responderam bem sobre a questão da privacidade, mas sendo mais realista em relação a você não “manjar dos paranauês”, algo bem simples que você pode fazer e que dá um ganho de privacidade é remover esses aplicativos básicos, tipo bloco de notas, calculadora, etc, por apps livres, que podem ser encontrados na f-droid.

Se manjar um pouquinho, pode usar um programa chamado universal android debloater pra remover boa parte desses apps do seu celular usando um pc.

Não vai ser açgo perfeito, mas já é melhor do que o sistema tal como veio do fabricante. Pra ir além disso, só ocm custom rom mesmo.