Murilo, as opções de SATA MODE, são relacionadas ao modo de operação da MB em relação aos dispositivos de armazenamento em massa, como HDs, SSDs entre outros. Segue algumas dicas:
IDE ((Integrated Drive Electronics): Padrão mais antigo, utilizado nas plataformas de MB com conexões do tipo IDE, mais lento nas operações de I/O (Input/Output). Recomendado para micros mais antigos com esse padrão de conexão de dispositivos IDE.
AHCI: Advanced Host Controller Interface: Padrão mais moderno, utilizado em plataformas de MB mais modernas e com chipset da Intel, mais rápido nas operações de I/O. Recomendado para micros mais atuais com o padrão de conexão de dispositivos SATA ou M.2
RAID (Redundant Array of Inexpensive Drives): Padrão tanto para dispositivos IDE, quanto para dispositivos SATA ou M.2, mas é necessário pelo menos 2 dispositivos iguais para funcionar (2 HDs de 500GB por exemplo). Existem várias configurações RAID: RAID0 (Striping) para performance, RAID1 (Mirroring) para segurança, RAID5 (Distributed parity) para segurança com paridade de dados e RAID10 (Striping+Mirroring) -e a junçao de performance+segurança, mas é o menos utilizado por precisar de no mínimo 4 discos. Existem outros tipos de RAID menos conhecidos e utilizados, mas esses que citei são os mais comuns e mais conhecidos.
Rst with Optane é uma tecnologia desenvolvida para concorrer com a tecnologia RAID, mas não é tão conhecida no momento.
Em relação à outros sistemas, formatação e processos de boot, seria recomendado utilizar o modo AHCI para usuários iniciantes em plataformas mais novas.
Espero ter ajudado, grande abraço.
Att, Daniel Negrão Lordelo