pictonet/PictoNet-V01

PICTOS Dataset: Pictograms for Cognitive Accessibility

Las imágenes de este dataset provienen de la plataforma PICTOS, un proyecto Fondef financiado por ANID (Agencia Nacional de Investigación y Desarrollo de Chile). Esta iniciativa desarrolló una plataforma de comunicación visual destinada a personas con discapacidad cognitiva que enfrentan barreras para acceder a servicios públicos y urbanos. A nivel mundial, aproximadamente 1.3 mil millones de personas (16% de la población global) experimentan algún tipo de discapacidad significativa. Específicamente, el 13.9% de los adultos enfrenta dificultades cognitivas que crean barreras importantes para acceder a servicios urbanos y de salud. Los pictogramas representan una solución efectiva para superar estas barreras lingüísticas y cognitivas, facilitando la comprensión de procesos complejos mediante símbolos visuales intuitivos.

Estructura del Sistema PICTOS

El sistema PICTOS se organiza en tres capas fundamentales que permiten la construcción sistemática de representaciones visuales:

• Acción: Qué se hace
• Elemento: Con qué se interactúa
• Contexto: Dónde ocurre

Esta estructura modular permite crear secuencias visuales que explican paso a paso diversos procedimientos y transacciones en servicios públicos, promoviendo la autonomía e inclusión de personas con discapacidad cognitiva.

How can I train? (Fine-tune Dreambooth LoRA)

accelerate launch --multi_gpu --num_processes=2 /path/train_dreambooth_lora_flux.py   --pretrained_model_name_or_path="black-forest-labs/FLUX.1-dev"   --instance_data_dir="/dataset_path/Dataset/Pictos_v4"   --output_dir="pesos_pictograma_lora_v4"   --mixed_precision="bf16"   --instance_prompt="a photo of sks pictogram"   --resolution=512   --train_batch_size=1   --guidance_scale=1   --gradient_accumulation_steps=1   --optimizer="prodigy"   --learning_rate=1   --report_to="wandb"   --lr_scheduler="constant"   --lr_warmup_steps=0   --max_train_steps=3000  --seed="42"   --rank=16   --lora_alpha=16

How can I run an inference?

from diffusers import DiffusionPipeline
import torch

pipe = DiffusionPipeline.from_pretrained("black-forest-labs/FLUX.1-dev", torch_dtype=torch.bfloat16).to("cuda")

pipe.load_lora_weights("checkpoint/checkpoint-2500") # Check that the path is correct.

# Run this on the notebook
image = pipe(
    "a photo of sks pictogram a person in the wheelchair on the grass, the person has a red T-shirt, but everything else is black and the grass is black.", 
    num_inference_steps=30,
    height=512,
    width=512,
    # generator=torch.manual_seed(2)).images[0] # buen resultado
    generator=torch.manual_seed(42)).images[0] # buen resultado
image