Obtener la información a través de GET desde una URL

Estoy conectándome a una URL con extensión json de datos abiertos a través del nodo Get request

Get results.docx (80.7 KB)

Logro traer información y lo conecto a un nodo Json to table

pero los datos me aparecen todos en una sola fila, quisiera poderlos visualizar en una tabla separados por sus respectivas columnas.

Hola @Harvey_Gordillo

Bienvenido al Foro. Podrias compartir el flujo?

1 Like

hola muchas gracias, hasta ahora solo he conectado con la URL

Automatizado.knwf (10.7 KB)
CONFIGURACION GET REQUEST.docx (87.0 KB)

1 Like

Olá @Harvey_Gordillo

bienvenido a la comunidad KNIME

Por favor, eche un vistazo al flujo de trabajo adjunto y vea si esto es lo que necesita.

Creo que te resultará muy útil y más perfomático.

gracias

Automatizado-vs02.knwf (20.2 KB)

muchas gracias exactamente eso es lo requiero por ahora, me surge la pregunta porque solo me carga 1000 registros ?

nuevamente le quedo muy agradecido por su aporte

1 Like

Olá @Harvey_Gordillo

La API devulve un array con 1000 objetos o listas. ejemplo:

[
	        { lista 1 },
            { lista 2 },
            { lista 3 },
            { lista n }

]

cada lista tiene 65 variables.

solo hay 1000 registros, por eso la tabla tiene 1000 lineas

Actualicé el workflow ensamblando todo el paso a paso que acredita esta afirmación.

Creo que le gustaría comprobarlo.

Automatizado-vs03.knwf (30.6 KB)

a través del nodo json path puede devolver todas las variables de cada lista (65), como en el ejemplo 03 o puede seleccionar solo las variables que desee como en el ejemplo 02.

1 Like

Nuevamente muchísimas gracias por la explicación, pero como hago para traer toda la información desde esa URL

Hola @Harvey_Gordillo, en el detallado flujo que proporcionó @natanaeldgsantos ya tienes todos los datos que hay (1000 registros y 65 variables). Al final de cada uno de las ramas en los nodos amarillos tienes los datos en formato “table” que es el formato de KNIME. Lo quieres seguir trabajando en KNIME?, lo necesitas en Excel?. Ya tienes toda la inforamcion de la URL

1 Like

Buenas tardes, de ante mano le agradezco la colaboración, lo que deseo verificar es que en efecto se haya descargado toda la información desde la URL, dado que esta fuente que es la plataforma de datos abiertos : “https://www.datos.gov.co/Gastos-Gubernamentales/SECOP-II-Contratos-Electr-nicos/jbjy-vk9h/data” allí mismo permite crear filtros del conjunto de datos “SECOP II - Contratos Electrónicos” y también permite exportar todo el conjunto de datos y se puede hacer a formato Excel o csv procesos que ya realicé tanto el filtro automatizado en la plataforma para consulta, como también exportar todos los datos, ahora lo que deseo es desde la misma plataforma nos indica que también se puede automatizar a partir de una API, que es el ejercicio que les he compartido, en la plataforma explican que en el caso de UTILIZAR una API se hace por un punto final.
Cada conjunto de datos abiertos de Socrata tiene una API SODA incorporada.
El punto final para este caso es la URL (https://www.datos.gov.co/resource/jbjy-vk9h.json) que se ha utilizado en el ejercicio, pero solo me carga los 1000 registros que ya hemos mencionado y al comparar contra el proceso de descarga del conjunto de datos me da unas cifras muy diferentes por lo tanto mi duda es si el proceso desde KNIME no se esta generando completo o simplemente debo comprobar que la fuente de datos desde la URL es totalmente distinta al conjunto de datos que se descarga desde la plataforma.

MUCHAS GRACIAS espero haberme hecho entender.

1 Like

Hola @Harvey_Gordillo

Pude ver en la documentación que las solicitudes a través de API realmente tienen limitaciones.
Obtendrá un poco más de registros por solicitud si crea un token en la plataforma, incluso con token, el número de respuestas tendrá alguna limitación por parte de la API.

por favor lea la siguiente documentación de API en:

Socrata Developer Portal | Socrata

say:

All requests should include an app token that identifies your application, and each application should have its own unique app token. A limited number of requests can be made without an app token, but they are subject to much lower throttling limits than request that do include one. With an app token, your application is guaranteed access to it’s own pool of requests.”

Lea también esta otra documentación en:

Getting started with the SODA Consumer API | Socrata

“ Throttling and Application Tokens

Hold on a second! Before you go storming off to make the next great open data app, you should understand how SODA handles throttling. You can make a certain number of requests without an application token, but they come from a shared pool and you’re eventually going to get cut off.

If you want more requests, sign up for a Socrata account, then register for an application token and your application will be granted up to 1000 requests per rolling hour period. If you need even more than that, special exceptions are made by request. You can contact our support team here

Al descargar a través de la plataforma, no tiene esta restricción.

En resumen, esta no es una limitación de KNIME, sino el punto final que quiere extraer la información.

1 Like

Buenos días, muchas gracias por el apoyo fue de mucha

Buenas tardes requiero automatizar un proceso enviando un archivo Excel por correo electrónico, pero me genera un erro estoy utilizando estos nodos:

ejercicio email 1.knwf (22.6 KB)

This topic was automatically closed 182 days after the last reply. New replies are no longer allowed.