Problemas complexos exigem a experiência certa! Um dos maiores desafios da atualidade é o correto armazenamento e processamento de dados tendo em consideração estes três domínios (3Vs):
Volume, Velocidade
e
Variedade.
Na Xpand IT, a equipa de
Data Engineering
desenvolve e implementa arquiteturas e soluções de software que tratam da captura, ingestão, armazenamento e gestão de dados críticos de grandes clusters de informação onde os 3Vs estão sempre presentes. Tiramos partido de um conjunto de frameworks avançadas como Spark, Kafka, Hive/Impala, Azure Data Services ou MongoDB usando Java e Scala como linguagens de programação para interagir com estas frameworks.
Principais responsabilidades
Enquanto Data Engineer é essencial trabalhar juntamente com os Platform Engineers, para desenvolver soluções de
software
, aplicando as melhores práticas em termos de desenho e arquitetura de sistemas distribuídos de grande escala.
As principais responsabilidades passam por garantir o desempenho e a escalabilidade do software que interage com os sistemas
backend
Big Data, contribuindo para a manutenção da performance geral do sistema.
Principais responsabilidades diárias:
Implementar
soluções em arquiteturas distribuídas em que a performance de tratamento de grandes volumes de dados
é fulcral
Desenhar e desenvolver
soluções de software robustas e escaláveis
, independentemente da quantidade de dados a processar
Implementar
boas práticas e padrões de desenho
das soluções Big Data no software produzido;
Analisar problemas complexos
que necessitam de soluções eficientes para manipular grandes quantidades de informação;
Desenvolver modelos e organização de estruturas de dados que otimizem as operações de "pesquisa" e "armazenamento" em sistemas distribuídos de grande escala;
Desenhar e desenvolver de APIs de comunicação entre os sistemas de
backend
Big Data e sistemas externos através de protocolos de comunicação standard.
Stacks:
Python, Java/Scala, Spark, Kafka/Confluent, MongoDB, Databricks
Requisitos
Licenciatura e/ou Mestrado em Informática, Sistemas de Informação ou Ciência da Computação;
Experiência em tecnologias baseadas em Java (JBoss, Spring, Spring MVC, Hibernate) e na definição de interfaces de comunicação utilizando standards como XML, JSON, SOAP;
Experiência na implementação de padrões de design em soluções de software avançadas (multi-threaded, multi-process, multi-cloud);
Experiência com bases de dados relacionais e não relacionais (SQL, MySQL, NoSQL, Hadoop, MongoDB);
Elevada experiência no uso de ferramentas como Eclipse, Maven, Jenkins, GIT, JIRA ou equivalentes;
omínio do Inglês, falado e escrito.
Poderá encontrar o anúncio original publicado em: