fontes¶
nós de fonte lêem dados de sistemas externos e os carregam na memória de execução (duckdb) para que os nós seguintes possam operá-los.
conectores disponíveis¶
| conector | tipo de sistema | autenticação |
|---|---|---|
| api rest | http / rest api | bearer, basic, api key, oauth2 |
| postgresql | postgres · mysql · sql server · oracle | credencial vault |
| mongodb | mongodb | credencial vault |
| s3 / minio | s3 compatível · minio | variáveis de ambiente |
| lakehouse reader | lakehouse interno da plataforma | — |
como funciona a execução¶
- o executor é instanciado com a configuração do nó
- os dados são lidos do sistema externo
- uma tabela temporária é criada no duckdb com os dados
- o nó seguinte recebe o nome dessa tabela como entrada
sistema externo
↓ httpx / asyncpg / pymongo / duckdb httpfs
executor (python)
↓ pandas dataframe → duckdb
tabela temporária: out_{node_id}
↓
próximo nó
modo sample
ao testar um nó individualmente no builder, a paginação é desabilitada e os registros são limitados a uma amostra. isso acelera a validação da configuração sem consumir todos os dados.