Andre Almeida

AI Data Enginner | Databricks | Spark | SQL | Python

Brazil

About

Em minha trajetória, como meu principal propósito: transformar dados de diferentes fontes em ativos estratégicos capazes de gerar valor, apoiar decisões e impulsionar resultados de negócio. Atuo na concepção, implementação e otimização de soluções de dados escaláveis, seguras e de alta performance, trabalhando em ambientes críticos, arquiteturas complexas e ecossistemas corporativos diversos. Minha experiência inclui tecnologias como Databricks, Apache Spark, Data Lakehouse, Data Lakes, Data Warehouses, ETL/ELT e plataformas de Big Data, sempre com foco em qualidade, governança, observabilidade e integridade dos dados. Acredito que a Inteligência Artificial é um grande acelerador de transformação, mas seu verdadeiro potencial depende da qualidade dos dados e da capacidade de aplicá-los de forma estratégica. Meu papel é conectar tecnologia e negócio, traduzindo a complexidade dos dados em soluções práticas que gerem impacto real para clientes e organizações. Sou motivado pelo aprendizado contínuo, pela inovação e pelo compartilhamento de conhecimento. Valorizo a colaboração, o trabalho em equipe e a construção de ambientes onde diferentes talentos atuam em sinergia para alcançar objetivos comuns. Afinal, os melhores resultados surgem quando conhecimento, propósito e pessoas caminham juntos.

Experience

  • NTT DATA Europe & Latam (Remote)
    • Data Engineer | Databricks | Spark | SQL | Git
      May 2026 - Present · 3 mos

      Atividades Desenvolvidas - Desenvolvimento e manutenção de pipelines de dados utilizando Databricks e Python para ingestão, transformação e processamento de dados. - Criação e otimização de scripts Python para automação de processos de tratamento, consolidação e análise de dados. - Desenvolvimento de dashboards gerenciais e executivos utilizando Microsoft Power BI, garantindo visualizações claras e orientadas à tomada de decisão. - Construção de modelos de dados analíticos e relacionamento entre múltiplas fontes de informação. - Desenvolvimento de métricas e indicadores estratégicos (KPIs) para monitoramento de desempenho operacional, financeiro e comercial. - Criação de medidas avançadas utilizando DAX para cálculos, análises comparativas e indicadores de performance. - Utilização de Power Query para extração, transformação e padronização de dados provenientes de diversas fontes. - Conexão e integração de dados por meio de serviços OData e bancos de dados corporativos, assegurando a atualização e consistência das informações. - Realização de análises de dados (Data Analytics) para identificação de tendências, oportunidades e suporte à tomada de decisão. - Automatização de processos de atualização de relatórios e dashboards, reduzindo atividades manuais e aumentando a eficiência operacional. - Monitoramento contínuo da qualidade e integridade dos dados utilizados nos processos analíticos. - Elaboração de relatórios analíticos e painéis de acompanhamento para áreas de negócio e gestão executiva. - Levantamento, definição e acompanhamento de KPIs alinhados aos objetivos estratégicos da organização. - Apoio às áreas de negócio na interpretação de indicadores e geração de insights baseados em dados.

    • Data Engineer | Databricks | Github | Git Lab | Governança | CICD | Python | SQL | IA
      Mar 2026 - Present · 5 mos

      - Data Migration Engineer com experiência em migração de dados em larga escala (~5 PB), atuando em equipe dedicada de migração, com foco em data integrity, data consistency e high availability. - Desenvolvimento de data pipelines utilizando Python e SQL para ETL/ELT, com ênfase em processamento distribuído, paralelismo e otimização de performance (high throughput). - Implementação de streaming data pipelines com Databricks (Apache Spark / Structured Streaming), habilitando ingestão contínua (real-time / near real-time processing) e baixa latência. - Experiência com ingestão de dados a partir de AWS S3 e Hive Metastore, com organização em arquitetura de Data Lake e otimização de armazenamento. - Migração e governança de dados no Unity Catalog (Databricks), incluindo data governance, access control (RBAC), data lineage e gerenciamento de metadados. - Construção e orquestração de workflows no Databricks (Jobs, Pipelines), com foco em escalabilidade, cluster management e performance tuning (partitioning, caching, query optimization). - Desenvolvimento de scripts de migration execution com controle de batch e micro-batch processing, retry mechanisms, error handling e structured logging. - Implementação de validações de dados (data quality checks), incluindo row count validation, checksum, data reconciliation e data validation frameworks. - Monitoramento e troubleshooting de pipelines batch e streaming, com análise de gargalos (performance bottlenecks) e otimização contínua. - Colaboração em equipe ágil de migração (cross-functional team), participando de planning, execução e melhoria contínua dos processos de data migration e data engineering.

    • Data Enginner | Databricks | Spark | SQL | Devops | CI/CD | Governança | Tribo | GenAI | GIT | IA
      Nov 2025 - Present · 9 mos

      Atuação na Squad CRM (modelo Tribo), contribuindo para sustentação, evolução e otimização de processos de negócio orientados por dados. • Gestão e acompanhamento de demandas utilizando Jira, garantindo organização, rastreabilidade e eficiência na entrega das atividades. • Desenvolvimento de análises de dados em larga escala utilizando Databricks, Apache Spark, Python e SQL para geração de insights estratégicos e suporte à tomada de decisão. • Tratamento, modelagem e análise de grandes volumes de dados (Big Data), incluindo criação de massas de teste e dados mockados para validações funcionais e técnicas. • Aplicação de técnicas de Inteligência Artificial e Analytics para identificação de padrões, previsão de tendências e proposição de melhorias operacionais. • Desenvolvimento e otimização de notebooks no Databricks com apoio de Inteligência Artificial Generativa, aumentando produtividade e qualidade das entregas. • Utilização do Salesforce CRM para análise e documentação de estruturas de dados, dicionários de dados e entendimento de regras de negócio. • Criação, validação e execução de testes para APIs, garantindo integridade e confiabilidade das integrações. • Desenvolvimento de automações e integrações utilizando recursos de Inteligência Artificial para otimização de processos. • Aplicação de IA Generativa para revisão, refatoração e melhoria contínua de código, promovendo performance, legibilidade e boas práticas de desenvolvimento. • Gestão de código-fonte com Git e GitHub, utilizando estratégias de versionamento, branches, tags, commits semânticos e colaboração em ambientes ágeis. Principais tecnologias: Databricks, Apache Spark, Python, SQL, Salesforce CRM, Git, GitHub, Jira, APIs, Inteligência Artificial Generativa, Data Analytics e Big Data.

  • Data Enginner | DBA SQLServer | Arquitetura | Segurança | SAP PowerDesigner | DataStage | Control-M at SONDA
    Apr 2023 - Present · 3 yrs 4 mos

    Principais competências: * Arquitetura e Modelagem de Dados com foco em performance e escalabilidade, utilizando SAP Power Designer. * Análise e manipulação de dados para suporte à tomada de decisão e geração de insights de negócio. * Atuação em projetos de migração de dados, com formatação, validação e garantia de integridade durante o processo. * Desenvolvimento e manutenção de processos ETL com DataStage, integrando múltiplas fontes de dados. * Conhecimento avançado em Administração de SQL Server: criação e manutenção de roles, usuários, controle de acessos, backup/restore de bases, e aprovação de projetos. * Experiência com Linux, PostgreSQL e monitoramento de execução de jobs via Control-M. * Implementação de práticas de segurança de dados, como mascaramento, criptografia e descaracterização com FILE_ID. * Controle de versionamento e colaboração com GIT, criação de branches, documentação técnica em Markdown e suporte entre equipes. * Vivência em ambientes de desenvolvimento e testes, garantindo consistência e integração contínua. Experiência em migração e formatação de dados, assegurando integridade, performance e qualidade das informações durante processos de transição entre sistemas. * Desenvolvimento e manutenção de processos ETL (Extract, Transform, Load) para integração de dados entre diferentes fontes com DataStage. * Geração de insights estratégicos a partir de dados estruturados e não estruturados, contribuindo para a tomada de decisão. * Gerenciamento de acessos, roles e usuários, garantindo segurança e conformidade com políticas internas de governança de dados.

  • Infosys Consulting (1 yr)
    • Spark | Databricks | Airflow | CI/CD | Governança | Ágil | NoSQL | PipeLines | postgresql
      Nov 2022 - Apr 2023 · 6 mos

      Projeto: Modernização da Plataforma de Dados com Spark, Airflow e Databricks Responsabilidades e entregas: - O objetivo de aumentar a escalabilidade, confiabilidade e governança no tratamento de grandes volumes de dados transacionais. Arquitetura e Implementação de Pipelines: - Desenvolvimento de pipelines de dados robustos utilizando Apache Spark em Databricks, permitindo o processamento distribuído e otimizado de grandes volumes de dados provenientes de múltiplas fontes (bancos relacionais, APIs e arquivos brutos em S3). Orquestração com Apache Airflow: - Workflows com Apache Airflow para agendamento, monitoramento e automação de cargas diárias e incrementais, garantindo rastreabilidade e controle total do pipeline. Integração com CI/CD e Versionamento: - Processos de CI/CD utilizando Git e GitHub como base para versionamento de código e automação de deploys via GitHub Actions e GitLab CI, incluindo validações automatizadas e pipelines de teste. Banco de Dados e Performance: - Utilizei PostgreSQL e bancos NoSQL para armazenar dados tratados, otimizando índices e estratégias de particionamento para melhorar o desempenho em consultas analíticas. Governança e Qualidade de Dados: - Estruturação de políticas de governança de dados, criando catálogos de dados, definindo critérios de qualidade e garantindo compliance com requisitos internos e regulatórios. Metodologia Ágil: - Ativamente regulares com Scrum com o time de dados, alinhando entregas com áreas de negócio e garantindo entregas incrementais e de alto valor. Resultados alcançados: - Redução de 40% no tempo de processamento de dados; - Melhoria de +60% na confiabilidade dos dados; - Entrega de uma arquitetura escalável, com versionamento completo via Git/GitHub, CI/CD automatizado e rastreabilidade fim a fim; - Fortalecimento da governança de dados e aumento da visibilidade para áreas de negócio

    • Migração | Database MongoDB Atlas to AWS DocumentDB --> Project completed at BRASKEM
      Jun 2022 - Oct 2022 · 5 mos

      Projeto de migração de banco de dados, no qual realizamos a transição de uma instância MongoDB hospedada no MongoDB Atlas para o serviço DocumentDB da AWS. O principal objetivo foi consolidar os recursos em nuvem, melhorar o desempenho e reduzir custos operacionais. Tecnologias e ferramentas utilizadas: - Cloud: AWS (DocumentDB, S3, C2, IAM, CloudWatch); - Banco de Dados: MongoDB Atlas → DocumentDB; - Metodologia: SCRUM (com sprints semanais, dailies e retrospectivas); Versionamento: Git (GitHub) - Scripts de migração: mongodump, mongorestore, validação com Python - Monitoramento e pós-migração: AWS CloudWatch, validação de dados automatizada Principais entregas: - Estruturação do ambiente AWS com boas práticas de segurança (VPC, Subnets, SGs); - Desenvolvimento de scripts automatizados para migração e validação de dados; - Garantia de consistência e integridade dos dados no novo ambiente - Redirecionamento da aplicação para o novo banco com zero downtime; O projeto foi conduzido com foco em escalabilidade, segurança e manutenção da disponibilidade dos serviços durante todo o processo.

    • AWS Cloud | mongodb | Docker | S3 | Cloud Wacth | AzureDevops - Project at CIELO
      May 2022 - Jun 2022 · 2 mos

      Competências Técnicas - Neste projeto atuamos com estratégica em ambientes on-premises e em nuvem com (AWS). Tivemos o foco em governança, performance, segurança e disponibilidade de dados, contribuindo para decisões orientadas por dados em escala corporativa. - Análise e tuning de performance, execução de mudanças estruturais, otimização de queries e arquitetura resiliente; - Feito o uso de modelagem de dados com SAP PowerDesigner e Erwin Data Modeler; - Usamos Docker e Kubernetes para sustentação de ambientes escaláveis, seguros e automatizados e a Infraestrutura como Código (Terraform); - Automatização de tarefas com Python; Tecnologias e Ferrametnas usadas: - Cloud : AWS (RDS, S3, EC2, IAM) - Database: DocumentDB; - Apache Airflow, Spark , DataBricks;, - Python; - DevOps; - Data Lakehouse; Boas práticas e governança: - Compromisso com qualidade e integridade da informação, aderência a práticas de governança de dados e conformidade regulatória; - Visão de negócio aliada à engenharia, contribuindo com soluções alinhadas às necessidades estratégicas da organização; Soft Skills: - Entendemos e usamos habilidades em traduzir arquitetura técnica para linguagem de negócio do cliente; - Usamos os ambientes de metodologias ágeis (Scrum, Kanban); - Atuação colaborativa com stakeholders, áreas de negócio e times multidisciplinares

  • Data Engineer | DBA | SQL Server | Azure | Mysql | ETL | SSIS | Python | Data Factory | Governança at Fortbrasil
    Feb 2020 - May 2022 · 2 yrs 4 mos

    Responsabilidades e Atividades: - Administração e tuning de bancos de dados SQL Server e MySQL, garantindo alta disponibilidade, segurança e integridade das informações. - Desenvolvimento e manutenção de processos ETL com SSIS e Python, otimizando fluxos de dados e reduzindo o tempo de processamento. - Criação e orquestração de pipelines de dados utilizando Azure Data Factory, integrando fontes diversas e apoiando arquiteturas analíticas em nuvem. - Implementação de estratégias de governança de dados, com foco em qualidade, conformidade e rastreabilidade. - Planejamento de capacidade, automação de rotinas de backup, restore e monitoramento proativo de ambientes críticos. - Apoio a times de BI e Analytics, fornecendo dados limpos, organizados e acessíveis para tomada de decisão. - Participação em projetos de migração para ambientes cloud (Azure SQL Database), com análise de impacto, modelagem e execução. Tecnologias e Ferramentas: - SQL Server, MySQL, Azure SQL Database - ETL: SSIS, Azure Data Factory - Linguagens: T-SQL, Python - Cloud: Microsoft Azure (Data Services) - Ferramentas de governança e controle de qualidade de dados, Ágil, SCRUM Resultados e Impacto: - Redução de 40% no tempo de processamento de ETLs críticos com reestruturação de pipelines. - Migração bem-sucedida de bases legadas para o Azure com zero downtime. - Implantação de políticas de governança que aumentaram a confiabilidade dos dados para áreas de negócio.

  • CTIS Tecnologia (4 yrs 7 mos)
    • DBA -SQL Server | IT Infrastructure
      Aug 2016 - Dec 2020 · 4 yrs 5 mos

      Como Administrador de Banco de Dados (DBA) com ampla experiência em ambientes críticos, atuando no Banco do Nordeste em instâncias de SQL Server e processos de homologação, teste e produção. Tenho a responsabilidade de gerenciar em média 400 instâncias SQL Server (versões de 2000 a 2019), com foco em administração de replicações nativas e gestão de permissões (usuários, roles, tabelas, etc.). Meu trabalho envolve também o tratamento de incidentes e requisições em ambientes críticos, garantindo a continuidade dos serviços. Atuo em estreita colaboração com as equipes de desenvolvimento e implantação, sendo responsável por mapear alterações em sistemas e servidores SQL Server, além de realizar implantação, construção e testes de mudanças que são aplicadas posteriormente em produção. Tenho forte experiência em ambientes multi-ambiente (produção, homologação e testes), garantindo que os processos de qualidade e performance sejam atendidos durante todas as fases do ciclo de vida dos dados e sistemas. Além disso, estou sempre focado na otimização e segurança dos dados, garantindo a integridade das operações e a eficiência do ambiente de TI.

    • DBA | SQL Server | PowerShell
      Jun 2016 - Feb 2020 · 3 yrs 9 mos