Ética e Responsabilidade na Ciência de Dados

Em 11 de junho de 2025, tive a oportunidade de compartilhar na Trilha de Data Science do TDC Florianópolis 2025, reflexões sobre Ética e Responsabilidade na Ciência de Dados.

Agora, registro aqui alguns pontos principais da minha apresentação...

Quando os Dados Enganam

Ética e Responsabilidade na Ciênica de Dados

Introdução

Não há como negar: os dados estão em tudo, moldando decisões importantes e impactando nossas vidas. Eles carregam um poder transformador - e muitas vezes, perigoso. Você já parou para pensar o que acontece quando os dados enganam?

Nesta apresentação, explorei o ciclo de vida dos dados para entender como a ética deve permear cada uma de suas etapas.  A LGPD dá o tom, mas, como Cientistas de Dados, o que podemos e devemos fazer para garantir a integraidade dos dados e das informações, das histórias que eles contam?

Vamos começar com uma provocação:

"Se você torturar os dados por tempo suficiente, eles confessarão qualquer coisa."

Esta frase, de Ronald Coase, economista britânico e Nobel de Economia (1991), ilustra bem o poder, e o perigo de manipular dados para ququer fim desejado. 

Vivemos na era dos dados. Eles estão por toda parte - nos aplicativos que usamos, nas decisões que nos afetam, nas políticas públicas e nas estratégias empresariais.

Mas... e se eles, os dados, estiverem errados?

Ou pior: e se os dados forem usados de forma a distorcer a realidade?

O objetivo desta postagem, é refletir sobre o papel da ética na ciência de dados, entender como decisões aparentemente técnicas podem ter impactos sociais profundos, e talvez o mais importante: o que pode ser feito para garantir que os dados sirvam ao bem comum.

Um pouco de história...

Antes de entrar no tema efetivamente, gostaria de compartilhar como me interessei ética e dados.

Em 2024, participei de um Datathon do Women in Data Science sobre Equity in Healthcare. O desafio era criar modelos preditivos para estimar o tempo até o diagnóstico de câncer metastático em pacientes com câncer de mama. Ao analisar o dataset, percebi que variáveis importantes, como o IMC (Índice de Massa Corporal), tinham muitos valores ausentes. Tentei várias técnicas de imputação, mas, devido ao perfil majoritário dos pacientes (brancos), o viés persistia. Esse desafio me fez refletir sobre como tratar dados de forma ética e responsável.

No meu dia a dia, também vejo como a forma de apresentar dados pode mudar percepções. Por exemplo, ao medir o tempo médio de resposta do meu time a requests, a média aritmética era distorcida por outliers. Ao usar a mediana e gráficos boxplot, o desempenho real ficou mais claro.

Veja um exemplo:

E, finalmente, não posso deixar de citar o livro "Como mentir com estatística". Não vou entrar em muitos detalhes neste ponto, pois já fiz uma postagem dedicada ao livro aqui - leiam esse post, e vocês entenderão.

O Poder dos Dados

Dados são usados para, se não tudo, muita coisa atualmente: eles são usados para aprovar empréstimos, selecionar candidatos, prever doenças, definir políticas públicas.

E a crença comum é que dados são "objetivos". 

Odeio ser a portadora de más notícias, mas os Dados NÃO são neutros - eles carregam vieses de quem os coleta, interpreta e aplica. Eles refletem escolhas humanas e, por isso, precisam ser tratados com responsabilidade.

Um teste..

Durante a apresentação no TDC, eu fiz um teste com quem estava presente. Usando o SLIDO, perguntei:

Você prefere trabalhar presencialmente ou remotamente?

Foi um momento divertido, e as respostas muito esclarecedoras - mais pelos "buracos" e dúvidas que elas traziam, do que pelas respostas em si...

Estou falando do Viés da Coleta. Será que a amostra de respostas que eu recebi representava todos os profissionais de tecnologia do Brasil? Do TDC Florianópolis?

O que influencia as respostas:

- Quem está presente no evento? Quem não está?

- Quem respondeu foram mais os participantes do digital/online, ou de participantes presenciais?

- Qual o perfil socioeconômico? 

- Eram todos de Santa Catarina ou tinha pessoas de outros Estados do Brasil? Ou de fora do Brasil?

Quantos pontos abertos!

A Coleta de Dados é o primeiro ponto onde o viés pode surgir - e muitas vezes, esse ponto passa desapercebido.

Outra consideração importante:

Correlação não é Causalidade

Dados podem mostrar padrões - mas interpretar esses padrões exige cuidado, contexto, pensamento crítico e responsabilidade.

Exemplos de correlações espúrias (como este exemplo do site Spurious Correlations) ilustram como relações aparentemente significativas podem ser apenas coincidências.

E este outro exemplo, de um artigo do Medium, de Kushal Mukherjee, em um estudo sobre correlação:

Há vários outros exemplos de quando os dados enganam, como:

• Cambridge Analytica - onde foram usados de forma indevida dados do facebook para manipular eleições. 
• Amazon e o algoritmo de recrutamento - o sistema penalizava candidatas mulheres por cause de viés nos dados históricos.
• O paradoxo de Simpson - um padrão que aparece em grupos separados desaparece ou se inverte quando os dados são combinados.

Esses casos mostram que A manipulação de dados pode ser sutil - e extremamente perigosa!

Ética na Ciência de Dados

A ética não é um extra na Ciência de Dados: ela é um requisito fundamental!

Fundamentos de Ética em dados, como em um Manifesto Ético do Cientista de Dados:

• Justiça: evitar discriminação e viés algoritmico.

• Transparência: tomar decisões compreensíveis e auditáveis.

• Responsabilidade: assumir as consequências do uso de dados.

• Privacidade: respeitar os direitos dos indivíduos sobre seus dados.

No Brasil, a LGPD (Lei Geral de Proteção de Dados), traz princípios fundamentais para os dados, como:

1. Finalidade
2. Adequação
3. Necessidade
4. Livre Acesso
5. Qualidade dos Dados
6. Transparência
7. Seguraça
8. Prevenção
9. Não discriminação
10. Responsaiblização de contas.

Organizações internacionais reforçam esses pilares, como foco em IA Responsável:

• OCDE: recomenda IA que seja robusta, segura, justa, explicável e centrada no ser humano.

• UNESCO: defende IA que respeite direitos humanos, diversidade cultural e sustentabilidade.

• AI Act (União Européia): propõe classificação de riscos e obrigações éticas conforme o impacto da IA.

Como aplicar isso na prática?

Questione! Por exemplo, pergunte "Por que estamos coletando esse dado?""

Documente decisões e premissas do modelo.

Use ferramentas de auditoria e explicabilidade (XAI).

Crie comitês de ética em dados dentro das organizações.

Promova diversidade nas equipes de ciência de dados.

A ética em dados não é apenas uma escolah técnica: é uma escolha civilizatória. É o que garante que a tecnologia sirva às pessoas, e não o contrário.

 

Até aqui, falei muito sobre a ética na coleta dos dados. Mas a ética deve estar presente em todo o ciclo de vida dos dados:

O papel do Cientista de Dados

Então, qual o nosso papel, como cientistas de dados nisso?

Ser um bom cientista de dados é, acima de tudo, ser um profissional ético.

E, indo além para outros profissionais de dados...

Afinal, Ética não é só sobre o que fazemos com os dados, mas é também sobre como os tratamos em cada etapa do caminho.

Para refletir

• Você já enfrentou um dilema ético em projetos de dados?

• Como você / sua empresa lida com privacidade e viés?

• O que você acredita que falta para termos uma cultura mais ética em dados?

Concluindo...

Os dados têm poder, e como poder, vem responsabilidade.

Ética é o que transofrma tecnologia em progresso real.

Precisamos de profissionais que não apenas dominem técnicas, mas que também saibam fazer as perguntas certas, com pensamento crítico.

Com grandes dados, vêm grandes responsabilidades.

Vamos juntos construir uma cultura de dados mais ética, transparente e inclusiva?

Deixe seu comentário, compartilhe suas experiências, e vamos continuar essa conversa!

#PensamentoCrítico #DataLiteracy #DataScience #CriticalThinking #DataEthics #TDC2025

[LIVRO LIDO] Como Mentir com Estatística

Depois de assistir alguns cursos e ouvir algumas dicas, entendi que é importante documentar as leituras - fichamentos, resumos etc.

Então, resolvi registrar alguns livros lidos aqui - para compartilhar o conhecimento, e quem sabe incentivar a leitura.

E, vou começar com um que li este ano, e gostei muito - apesar do título, inicialmente, ter me "impressionado negativamente".

Como mentir com Estatística

Capa do Livro: "Como Mentir com Estatística", de Darrell Huff

O livro "Como Mentir com Estatística" ("How to Lie with Statistics", no original em inglês), escrito por Darrell Huff e publicado pela primeira vez em 1954, é uma obra clássica que explora de forma acessível e bem-humorada como estatísticas podem ser manipuladas ou mal interpretadas (muitas vezes, de maneira intencional, para enganar ou convencer o público).

Apesar do título (pelo menos para mim, inicialmente), induzir a uma ideia que ele vai ensinar como usar a estatística para mentir e enganar, o objetivo é justamente o contrário: mostrar como ela pode (e tem sido usada há muito tempo!) de maneira a induzir erros, e incentivar a análise das informações e pensamento crítico.

Principais pontos abordados no livro:

1. Gráficos enganosos: o autor mostra como gráficos podem ser manipulados para exagerar ou minimizar diferenças.

2. Amostragem tendenciosa: o autor alerta sobre o uso de amostras não representativas, que levam a conclusões incorretas.

3. Média vs Mediana: o autor explica como o uso de média aritmética, em vez de mediana ou moda, pode distorcer a interpretação dos dados.

4. Causalidade enganosa: o autor destaca a confusão comum entre correlação e causalidade, em que relações estatísticas são apresentadas como se uma variável causasse a outra, sem base real.

(Comentário adicional, que não está no livro: No site Spurious Correlations tem muitos exemplos de Correlações Espúrias (hipotéticas, não genuínas), demonstrando que correlação não é causalidade).

5. Percentuais ilusórios: o livro mostra como variações em percentuais podem ser usadas para criar impacto visual ou emocional, sem necessariamente, representar uma mudança relevante.

6. Seleção seletiva de dados: mostrar apenas parte dos dados, ou escolher um recorte de tempo conveniente, pode alterar completamente a percepção de uma tendência ou evento.

Importância, Impacto e Críticas

Apesar de ter sido escrito na década de 1950, o livro continua extremamente relevante em tempos de fake news, infográficos nas redes sociais e manipulações de dados na mídia. Em tempos, onde o pensamento crítico é essencial.

É frequentemente usado em cursos introdutórios de estatística, jornalismo e ciências sociais (no meu caso, conheci ele durante minha MBA em Data Science & Analytics), como uma leitura crítica e formativa.

O estilo é simples e didático, com exemplos fáceis de entender e uma abordagem mais voltada para leigos do que para estatísticos profissionais, o que torna esse livro acessível para pessoas interessadas e entender melhor os dados e as informações que recebe das Redes Sociais, Noticiários e afins.

Alguns críticos modernos apontam que o livro, apesar de útil, não aprofunda o rigor estatístico e pode levar leitores a desconfiar excessivamente da estatística, mesmo quando bem aplicada.

O próprio autor não era estatístico, mas jornalista. Isso contribui para a linguagem acessível, mas também limita a profundidadte técnica.

É uma excelente introdução crítica ao alfabetismo estatístico, especialmente para quem deseja aprender a não ser enganados por dados mal apresentados.

Fichamento Técnico

Fichamento do livro "Como Mentir com Estatística"

Mapa Mental

Mapa Mental do livro "Como Mentir com Estatística" - clique na imagem para melhor visualização

Você já leu esse livro? Compartilhe aqui suas impressões.

#LivroLido #Estatística #PensamentoCrítico #DataLiteracy #DataScience #CriticalThinking #DataEthics

E teve TDC São Paulo 2024! Trilha Data Science

E teve TDC São Paulo 2024! Parte 1 - Dia 19: Trilha Data Science

Dias 18, 19 e 20 de Setembro passados, tive a oportunidade de participar do The Developer's Conference São Paulo 2024. Foram 3 dias intensos, mas maravilhosos! 

Reencontrei amigos e colegas, fiz novos, aprendi, compartilhei conhecimento, e andei prá caramba (10.000 passos cada dia - agradecimentos ao meu relógio).

Neste post quero falar em especial, sobre o dia 19 - quando tive a oportunidade de coordenar a trilha de Data Science, junto com:

- Eliézer Zarpelão (LinkedIn), 

- Lia Yumi Morimoto (LinkedIn), e

- Nilton Kazuyuki Ueda (LinkedIn).

Depois de mais de 2 meses de trabalho, selecionar 7 palestras dentre mais de 40 submissões excelentes, escolher tema para o painel e convidar panelistas, o dia chegou. E foi além das expectativas.

E aqui, gostaria de registrar as palestras, agradecer aos palestrantes que aceitaram o convite, e documentar algumas lições que aprendi...

O dia começou com a palestra "Alfabetização em dados: o diferencial na implementação da cultura data drive", por Francieli Pinzon (LinkedIn). Nesta apresentação, Francieli ressalta a importância da alfabetização em dados, especialmente no momento atual em que cada vez nos apoiamos na IA. A jornada para/de IA começa com dados. Então é preciso desenvolver a habilidade de sermos orientados a dados, treinar, cometer erros, e aceitar começar pequeno e crescer. Pensamento crítico é mais do que nunca, essencial.

Na sequência tivemos a apresentação do Jorge Oliveira (LinkedIn), sobre "Transformando Dados em Decisões: Estratégias para Cientistas de Dados". Na sua apresentação, Jorge falou sobre a comunicação eficaz entre cientistas de dados e stakeholders, sobre entender a "dor do negócio" que estou resolvendo e sobre traduzir insights em ações. Sobre ser intencional nas ações e parecer ser intencional, ao expandir o DoD (Definition of Done) para além de apenas completar a tarefa com qualidade, mas documentar e também publicar os resultados e lições aprendidas, sempre conhecendo a audiência que consumirá estas publicações.

Depois de uma pausa para almoço, voltamos com a apresentação do Diogenes Justo (LinkedIn), sobre "Estratégia de Dados em uma empresa centenária, símbolo do Brasil no mundo - Havaianas!", um estudo de caso onde ele compartilha a experiência da Alpargatas (empresa dona da Havainas) em sua transformação para integrar a cultura organizacional e os desafios para implementar uma cultura orientada a dados.

Na sequência, tivemos um painel com tema "Novas Tendências em Data Science para 2024/2025". Neste painel, contamos com a participação de:

- Alessandra Karine Erthal, VP Microsoft (LinkedIn)

- Andre Racz, CTO Avanade (LinkedIn)

- Renata Brunelli, Diretora Loggi (LinkedIn)

- Thiago Urtaran Abbruzzese, Engineering Manager Databricks (LinkedIn).

Durante 1h, eles compartilharam seus pontos de vista e experiências respondendo e comentando sobre:

- Principais áreas de pesquisa em Ciência de Dados que terão avanço significativo nos próximos anos;

- Como os dados e sua análise estão transformando a maneira que as empresas tomam decisões estratégicas;

- Habilidades e conhecimentos que serão mais valorizados para os profissionais na área de Ciência de Dados;

- Como equilibrar inovação, especialmente em Inteligência Artificial, e proteger os dados e a privacidade dos usuários? Como os profissionais e as empresas podem garantir a segurança dos dados sensíveis ao inovar e implementar novas soluções?

- Quais são os principais desafios éticos que as empresas enfrentam ao implementar soluções de Dados, e como eles podem ser mitigados? Quais estratégias e tendências para Governança de Dados, com segurança? Como a automação pode ser utilizada para melhorar a eficiência e a precisão dos processos de governança de dados?

Depois do painel e um tempo para Networking e visita aos Stands, o Eliézer (também coordenador da trilha), trouxe uma apresentação sobre "Graph Data Science - O ingrediente secreto para IA orientada a relacionamentos", falando como os grafos afetam e impactam as fases de um projeto de Ciência de Dados e Inteligência Artificial.  Interessante mencionar as possibilidades de aplicação de Graph Data Science, para citar algumas: Detecção de Fraudes, Recomendações Personalizadas, Manutenção Preditiva e Cybersegurança.

A próxima palestra, no Stadium, foi da Laís Carraro Leme Cavalheiro (LinkedIn), que apresentou sobre "O que suas interações nas redes sociais revelam sobre seus posicionamentos", falando da importância dos posicionamentos (desde estimar o resultado de uma eleição, até estudar polarizações ideológicas, até analisar a reputação de pessoas, empresas e marcas) e os desafios na detecção. Algo muito interessante para se pensar que a Laís trouxe foi uma citação de Aza Raskin, em O Dilema das Redes (2020): "Não pagamos para usar as redes sociais, mas os anunciantes pagam. Os anunciantes são os clientes. Nós somos o produto vendido". Só essa frase já vale uma boa reflexão.

De volta à sala da Trilha de Data Science, tivemos uma apresentação sobre "Mercado Financeiro e Deep Reinforcement Learning: Aplicações de Tendências de Ativos Financeiros", trazida por Guilherme Gonçalves (LinkedIn) e Felipe G S Teodoro (LinkedIn). Nesta apresentação, eles trouxeram uma possibilidade de abordagem para trabalhar predição de tendências no mercado financeiro, usando DRL (Deep Reinforcement Learning) através de algorítmos como DQN, A2C, PPO e DDPG.

E finalmente, para encerrar esta trilha (e este dia de TDC), o Diogo Cordeiro Padilha (LinkedIn) trouxe uma apresentação sobre "Pipeline de auditoria de vieses: um estudo de caso", em que, partindo do questionamento "Somos todos Ethical by Design", ele compartilhou um estudo de caso de uma startup de RH que desenvolveu uma metodologia e pipeline automático de auditoria de vieses, com foco em ética e justiça algorítmica.

E assim, terminou esta trilha...  Foi corrido? Foi! Foi cansativo? Devo dizer que sim (meus pés não me deixam mentir). Mas... Valeu a pena? Se valeu!! Conhecimento, Networking, Novos contatos, experiência, diversão - tudo em um pacote só chamado TDC!

E agora, só resta agradecer ao The Developer's Conference (LinkedIn & Site), e à Yara Mascarenhas (LinkedIn), representando todos que fizeram o TDC São Paulo 2024 acontecer, pela oportunidade e pelos ótimos momentos!

E, que venham os próximos TDCs!

PS: Não poderia deixar de registrar minha caricatura super legal criada pelo Andre Noel (LinkedIn) - onde, como boa míope que sou, estou de óculos, segurando meu iPhone na mão, toda de roupa preta (AMO!) e com o símbolo da Frota Estelar (#LLP) ;) .