Tem N formas.. Sobre os pacotes...: depende de qual pacote e como é processado. Deve dar pra bugar os strcpy da vida, se estiverem unsafe. Ataques de buffer overflow, sacas? Não tem como te passar uma listinha. É meio que analisar o código e tentar quebrar. Geralmente pacotes malformados causam crash no servidor. Agora QUAL pacote, e COMO ele deve ser maliciosamente construído pra quebrar, não acho que tenha isso documentado em algum lugar. E quem tem, certamente vai usar isso pra explorar ao invés de postar aqui.