Ética e Responsabilidade na Ciência de Dados

Em 11 de junho de 2025, tive a oportunidade de compartilhar na Trilha de Data Science do TDC Florianópolis 2025, reflexões sobre Ética e Responsabilidade na Ciência de Dados.

Agora, registro aqui alguns pontos principais da minha apresentação...

Quando os Dados Enganam

Ética e Responsabilidade na Ciênica de Dados

Introdução

Não há como negar: os dados estão em tudo, moldando decisões importantes e impactando nossas vidas. Eles carregam um poder transformador - e muitas vezes, perigoso. Você já parou para pensar o que acontece quando os dados enganam?

Nesta apresentação, explorei o ciclo de vida dos dados para entender como a ética deve permear cada uma de suas etapas.  A LGPD dá o tom, mas, como Cientistas de Dados, o que podemos e devemos fazer para garantir a integraidade dos dados e das informações, das histórias que eles contam?

Vamos começar com uma provocação:

"Se você torturar os dados por tempo suficiente, eles confessarão qualquer coisa."

Esta frase, de Ronald Coase, economista britânico e Nobel de Economia (1991), ilustra bem o poder, e o perigo de manipular dados para ququer fim desejado. 

Vivemos na era dos dados. Eles estão por toda parte - nos aplicativos que usamos, nas decisões que nos afetam, nas políticas públicas e nas estratégias empresariais.

Mas... e se eles, os dados, estiverem errados?

Ou pior: e se os dados forem usados de forma a distorcer a realidade?

O objetivo desta postagem, é refletir sobre o papel da ética na ciência de dados, entender como decisões aparentemente técnicas podem ter impactos sociais profundos, e talvez o mais importante: o que pode ser feito para garantir que os dados sirvam ao bem comum.

Um pouco de história...

Antes de entrar no tema efetivamente, gostaria de compartilhar como me interessei ética e dados.

Em 2024, participei de um Datathon do Women in Data Science sobre Equity in Healthcare. O desafio era criar modelos preditivos para estimar o tempo até o diagnóstico de câncer metastático em pacientes com câncer de mama. Ao analisar o dataset, percebi que variáveis importantes, como o IMC (Índice de Massa Corporal), tinham muitos valores ausentes. Tentei várias técnicas de imputação, mas, devido ao perfil majoritário dos pacientes (brancos), o viés persistia. Esse desafio me fez refletir sobre como tratar dados de forma ética e responsável.

No meu dia a dia, também vejo como a forma de apresentar dados pode mudar percepções. Por exemplo, ao medir o tempo médio de resposta do meu time a requests, a média aritmética era distorcida por outliers. Ao usar a mediana e gráficos boxplot, o desempenho real ficou mais claro.

Veja um exemplo:

E, finalmente, não posso deixar de citar o livro "Como mentir com estatística". Não vou entrar em muitos detalhes neste ponto, pois já fiz uma postagem dedicada ao livro aqui - leiam esse post, e vocês entenderão.

O Poder dos Dados

Dados são usados para, se não tudo, muita coisa atualmente: eles são usados para aprovar empréstimos, selecionar candidatos, prever doenças, definir políticas públicas.

E a crença comum é que dados são "objetivos". 

Odeio ser a portadora de más notícias, mas os Dados NÃO são neutros - eles carregam vieses de quem os coleta, interpreta e aplica. Eles refletem escolhas humanas e, por isso, precisam ser tratados com responsabilidade.

Um teste..

Durante a apresentação no TDC, eu fiz um teste com quem estava presente. Usando o SLIDO, perguntei:

Você prefere trabalhar presencialmente ou remotamente?

Foi um momento divertido, e as respostas muito esclarecedoras - mais pelos "buracos" e dúvidas que elas traziam, do que pelas respostas em si...

Estou falando do Viés da Coleta. Será que a amostra de respostas que eu recebi representava todos os profissionais de tecnologia do Brasil? Do TDC Florianópolis?

O que influencia as respostas:

- Quem está presente no evento? Quem não está?

- Quem respondeu foram mais os participantes do digital/online, ou de participantes presenciais?

- Qual o perfil socioeconômico? 

- Eram todos de Santa Catarina ou tinha pessoas de outros Estados do Brasil? Ou de fora do Brasil?

Quantos pontos abertos!

A Coleta de Dados é o primeiro ponto onde o viés pode surgir - e muitas vezes, esse ponto passa desapercebido.

Outra consideração importante:

Correlação não é Causalidade

Dados podem mostrar padrões - mas interpretar esses padrões exige cuidado, contexto, pensamento crítico e responsabilidade.

Exemplos de correlações espúrias (como este exemplo do site Spurious Correlations) ilustram como relações aparentemente significativas podem ser apenas coincidências.

E este outro exemplo, de um artigo do Medium, de Kushal Mukherjee, em um estudo sobre correlação:

Há vários outros exemplos de quando os dados enganam, como:

• Cambridge Analytica - onde foram usados de forma indevida dados do facebook para manipular eleições. 
• Amazon e o algoritmo de recrutamento - o sistema penalizava candidatas mulheres por cause de viés nos dados históricos.
• O paradoxo de Simpson - um padrão que aparece em grupos separados desaparece ou se inverte quando os dados são combinados.

Esses casos mostram que A manipulação de dados pode ser sutil - e extremamente perigosa!

Ética na Ciência de Dados

A ética não é um extra na Ciência de Dados: ela é um requisito fundamental!

Fundamentos de Ética em dados, como em um Manifesto Ético do Cientista de Dados:

• Justiça: evitar discriminação e viés algoritmico.

• Transparência: tomar decisões compreensíveis e auditáveis.

• Responsabilidade: assumir as consequências do uso de dados.

• Privacidade: respeitar os direitos dos indivíduos sobre seus dados.

No Brasil, a LGPD (Lei Geral de Proteção de Dados), traz princípios fundamentais para os dados, como:

1. Finalidade
2. Adequação
3. Necessidade
4. Livre Acesso
5. Qualidade dos Dados
6. Transparência
7. Seguraça
8. Prevenção
9. Não discriminação
10. Responsaiblização de contas.

Organizações internacionais reforçam esses pilares, como foco em IA Responsável:

• OCDE: recomenda IA que seja robusta, segura, justa, explicável e centrada no ser humano.

• UNESCO: defende IA que respeite direitos humanos, diversidade cultural e sustentabilidade.

• AI Act (União Européia): propõe classificação de riscos e obrigações éticas conforme o impacto da IA.

Como aplicar isso na prática?

Questione! Por exemplo, pergunte "Por que estamos coletando esse dado?""

Documente decisões e premissas do modelo.

Use ferramentas de auditoria e explicabilidade (XAI).

Crie comitês de ética em dados dentro das organizações.

Promova diversidade nas equipes de ciência de dados.

A ética em dados não é apenas uma escolah técnica: é uma escolha civilizatória. É o que garante que a tecnologia sirva às pessoas, e não o contrário.

 

Até aqui, falei muito sobre a ética na coleta dos dados. Mas a ética deve estar presente em todo o ciclo de vida dos dados:

O papel do Cientista de Dados

Então, qual o nosso papel, como cientistas de dados nisso?

Ser um bom cientista de dados é, acima de tudo, ser um profissional ético.

E, indo além para outros profissionais de dados...

Afinal, Ética não é só sobre o que fazemos com os dados, mas é também sobre como os tratamos em cada etapa do caminho.

Para refletir

• Você já enfrentou um dilema ético em projetos de dados?

• Como você / sua empresa lida com privacidade e viés?

• O que você acredita que falta para termos uma cultura mais ética em dados?

Concluindo...

Os dados têm poder, e como poder, vem responsabilidade.

Ética é o que transofrma tecnologia em progresso real.

Precisamos de profissionais que não apenas dominem técnicas, mas que também saibam fazer as perguntas certas, com pensamento crítico.

Com grandes dados, vêm grandes responsabilidades.

Vamos juntos construir uma cultura de dados mais ética, transparente e inclusiva?

Deixe seu comentário, compartilhe suas experiências, e vamos continuar essa conversa!

#PensamentoCrítico #DataLiteracy #DataScience #CriticalThinking #DataEthics #TDC2025

[LIVRO LIDO] Como Mentir com Estatística

Depois de assistir alguns cursos e ouvir algumas dicas, entendi que é importante documentar as leituras - fichamentos, resumos etc.

Então, resolvi registrar alguns livros lidos aqui - para compartilhar o conhecimento, e quem sabe incentivar a leitura.

E, vou começar com um que li este ano, e gostei muito - apesar do título, inicialmente, ter me "impressionado negativamente".

Como mentir com Estatística

Capa do Livro: "Como Mentir com Estatística", de Darrell Huff

O livro "Como Mentir com Estatística" ("How to Lie with Statistics", no original em inglês), escrito por Darrell Huff e publicado pela primeira vez em 1954, é uma obra clássica que explora de forma acessível e bem-humorada como estatísticas podem ser manipuladas ou mal interpretadas (muitas vezes, de maneira intencional, para enganar ou convencer o público).

Apesar do título (pelo menos para mim, inicialmente), induzir a uma ideia que ele vai ensinar como usar a estatística para mentir e enganar, o objetivo é justamente o contrário: mostrar como ela pode (e tem sido usada há muito tempo!) de maneira a induzir erros, e incentivar a análise das informações e pensamento crítico.

Principais pontos abordados no livro:

1. Gráficos enganosos: o autor mostra como gráficos podem ser manipulados para exagerar ou minimizar diferenças.

2. Amostragem tendenciosa: o autor alerta sobre o uso de amostras não representativas, que levam a conclusões incorretas.

3. Média vs Mediana: o autor explica como o uso de média aritmética, em vez de mediana ou moda, pode distorcer a interpretação dos dados.

4. Causalidade enganosa: o autor destaca a confusão comum entre correlação e causalidade, em que relações estatísticas são apresentadas como se uma variável causasse a outra, sem base real.

(Comentário adicional, que não está no livro: No site Spurious Correlations tem muitos exemplos de Correlações Espúrias (hipotéticas, não genuínas), demonstrando que correlação não é causalidade).

5. Percentuais ilusórios: o livro mostra como variações em percentuais podem ser usadas para criar impacto visual ou emocional, sem necessariamente, representar uma mudança relevante.

6. Seleção seletiva de dados: mostrar apenas parte dos dados, ou escolher um recorte de tempo conveniente, pode alterar completamente a percepção de uma tendência ou evento.

Importância, Impacto e Críticas

Apesar de ter sido escrito na década de 1950, o livro continua extremamente relevante em tempos de fake news, infográficos nas redes sociais e manipulações de dados na mídia. Em tempos, onde o pensamento crítico é essencial.

É frequentemente usado em cursos introdutórios de estatística, jornalismo e ciências sociais (no meu caso, conheci ele durante minha MBA em Data Science & Analytics), como uma leitura crítica e formativa.

O estilo é simples e didático, com exemplos fáceis de entender e uma abordagem mais voltada para leigos do que para estatísticos profissionais, o que torna esse livro acessível para pessoas interessadas e entender melhor os dados e as informações que recebe das Redes Sociais, Noticiários e afins.

Alguns críticos modernos apontam que o livro, apesar de útil, não aprofunda o rigor estatístico e pode levar leitores a desconfiar excessivamente da estatística, mesmo quando bem aplicada.

O próprio autor não era estatístico, mas jornalista. Isso contribui para a linguagem acessível, mas também limita a profundidadte técnica.

É uma excelente introdução crítica ao alfabetismo estatístico, especialmente para quem deseja aprender a não ser enganados por dados mal apresentados.

Fichamento Técnico

Fichamento do livro "Como Mentir com Estatística"

Mapa Mental

Mapa Mental do livro "Como Mentir com Estatística" - clique na imagem para melhor visualização

Você já leu esse livro? Compartilhe aqui suas impressões.

#LivroLido #Estatística #PensamentoCrítico #DataLiteracy #DataScience #CriticalThinking #DataEthics

Data Literacy: O Poder por Trás da Tomada de Decisão

Ontem à noite (29 de julho), no Chapter São Paulo do Women in Data, tivemos o privilégio de receber Francieli Pinzon - especialista em Dados e IA com mais de 15 anos de experiência, atualmente liderando iniciativas em IA Preditiva e ajudando empresas a transformar dados em estratégias eficazes.

Ela conduziu uma sessão incrível sobre Data Literacy, destacando seu papel essencial na tomada de decisões. Infelizmente, devido a problemas técnicos, não conseguimos gravar a apresentação — mas aqui está um resumo dos principais pontos para quem não pôde participar.