Pular para conteúdo

fontes

nós de fonte lêem dados de sistemas externos e os carregam na memória de execução (duckdb) para que os nós seguintes possam operá-los.

conectores disponíveis

conector tipo de sistema autenticação
api rest http / rest api bearer, basic, api key, oauth2
postgresql postgres · mysql · sql server · oracle credencial vault
mongodb mongodb credencial vault
s3 / minio s3 compatível · minio variáveis de ambiente
lakehouse reader lakehouse interno da plataforma

como funciona a execução

  1. o executor é instanciado com a configuração do nó
  2. os dados são lidos do sistema externo
  3. uma tabela temporária é criada no duckdb com os dados
  4. o nó seguinte recebe o nome dessa tabela como entrada
sistema externo
      ↓ httpx / asyncpg / pymongo / duckdb httpfs
executor (python)
      ↓ pandas dataframe → duckdb
tabela temporária: out_{node_id}
próximo nó

modo sample

ao testar um nó individualmente no builder, a paginação é desabilitada e os registros são limitados a uma amostra. isso acelera a validação da configuração sem consumir todos os dados.