O entusiasmo em torno das aplicações da Inteligência Artificial Generativa nas contratações públicas não pode obscurecer os desafios críticos associados à segurança e à conformidade. O compartilhamento inadvertido de informações sensíveis em plataformas de IA, sem devida análise de segurança, pode gerar exposições indesejadas e comprometer a integridade dos processos administrativos.
A Lei Geral de Proteção de Dados (LGPD) estabelece diretrizes claras sobre a coleta, o uso e o compartilhamento de dados pessoais. Entretanto, a aplicabilidade desses princípios no contexto da utilização de IA ainda enfrenta lacunas práticas, sobretudo no que tange à contratação de soluções tecnológicas de terceiros.
Classificar as ferramentas de IA quanto ao nível de segurança pode auxiliar a avaliar o grau de aderência das soluções às exigências legais e éticas. Adicionalmente, recomenda-se cautela no input de dados sensíveis, treinamento crítico dos servidores públicos e utilização preferencial de ferramentas que ofereçam garantias contratuais explícitas sobre proteção de dados.
A conformidade não é apenas uma obrigação legal, mas um pilar fundamental para a preservação da credibilidade institucional e da confiança da sociedade. A utilização segura da IA deve ser encarada como parte estratégica das políticas de governança e de gestão de riscos da Administração Pública.
Deixe seu Comentário: Quais práticas de segurança e compliance sua instituição já adota para garantir o uso ético e protegido da IA nas contratações públicas?
Cursos dos Professores
