Pilar editorial
23 publicações nesta seção.
Uma instituição sem política formal não está livre do problema. Está apenas sem visibilidade sobre ele — porque o uso já acontece, dispersa e sem critério, e isso concentra risco em vez de controle.
Uma cláusula genérica assinada na matrícula, redigida antes de a instituição adotar qualquer ferramenta específica, dificilmente cobre o que uma plataforma de IA faz com os dados de um aluno ao longo do ano. É nesse detalhe aparentemente burocrático que mora um dos pontos mais negligenciados.
Um sistema não tem opinião sobre nenhum aluno. Mas aprende com dados do passado, e se esses dados carregam desigualdades, ele as reproduz com uma aparência de neutralidade que é mais perigosa do que um viés humano declarado.
Enquanto o Marco Legal da IA não é sancionado, escolas operam sem uma lei específica sobre responsabilidade por erro de sistema automatizado. Isso não significa ausência de responsabilidade — significa que ela recai sobre quem a família procura primeiro.
Um chatbot de tutoria que conversa com um aluno de nove anos coleta muito mais do que acertos e erros. Quando o titular é menor de idade, a LGPD não trata esse dado como qualquer outro — e o ponto cego mais comum não está na escola, está no fornecedor.