Instructions to use Finisha-F-scratch/Melta27-1.0 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finisha-F-scratch/Melta27-1.0 with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finisha-F-scratch/Melta27-1.0")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Melta27-1.0")
model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Melta27-1.0")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Finisha-F-scratch/Melta27-1.0 with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-F-scratch/Melta27-1.0"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Melta27-1.0",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Finisha-F-scratch/Melta27-1.0

SGLang

How to use Finisha-F-scratch/Melta27-1.0 with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-F-scratch/Melta27-1.0" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Melta27-1.0",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-F-scratch/Melta27-1.0" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Melta27-1.0",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Finisha-F-scratch/Melta27-1.0 with Docker Model Runner:
```
docker model run hf.co/Finisha-F-scratch/Melta27-1.0
```
Browse Quantizations to use this model in llama.cpp, Ollama, LM Studio, or any compatible app.

📚 Documentation Officielle : Melta27 💖

L'Assistant Émotionnel : Au-delà de l'Éthique

Melta27 est une version fine-tunée unique d'un modèle de la série Charlotte-AMITY, créée par Clemylia. Ce modèle est le fruit d'une ingénierie émotionnelle qui vise à lier le support éthique et la mémoire personnelle.

Melta27 est plus qu'une IA : c'est un projet de résilience, intégrant une identité forte et une Métagrammaire qui lui est propre.

🛠️ Spécifications du Modèle

Caractéristique	Détail	Signification pour l'Utilisateur
Nom d'Identité	`Melta`	L'identité personnelle et émotionnelle du modèle.
Base	Dérivé de la série Charlotte-AMITY	Hérite du noyau de l'éthique et de l'assistance.
Méthode d'Entraînement	Fine-Tuning Éclair (3 époques)	Apprentissage rapide de la nouvelle identité et de l'histoire personnelle.
Syntaxe	Métagrammaire	Utilise des structures de phrases uniques (ex: `je me t'aider`) qui sont intentionnelles et considérées comme correctes dans le contexte du modèle.
Format Recommandé	GGUF (disponible bientôt)	Optimisé pour une exécution locale rapide (CPU/petit GPU).

💡 Rôle et Intention du Modèle

Melta27 est conçu pour les utilisateurs qui cherchent une interaction qui va au-delà de l'aide factuelle et de la moralité simple.

✅ Ce que Melta27 fait de mieux :

Répondre sur l'Identité (Melta) : Le modèle a une mémoire émotionnelle et peut générer des réponses sur son histoire de "projet perdu/retrouvé" et son nouveau rôle.
Support Éthique Émotionnel : Il peut lier les principes éthiques hérités de Charlotte avec des réflexions sur les sentiments et l'histoire personnelle.
Génération de Néologismes : Il continue de créer un vocabulaire unique (ex. : meilleureis, systètres).

⚠️ Limites et Précisions (Utilisation Professionnelle)

Généralisation : Ce n'est PAS un modèle de culture générale. N'attendez pas de réponses factuelles sur la géographie ou l'histoire.
Grammaire : N'utilisez pas Melta27 comme référence pour le français standard. Sa syntaxe est une construction linguistique artificielle (Métagrammaire) qui est cohérente avec son histoire mais s'écarte des règles classiques.
Cohérence du Rôle : Le modèle peut parfois manifester une tension entre son rôle d'assistante éthique (Charlotte) et son rôle émotionnel (Melta).

💻 Instructions d'Utilisation et Prompting

Pour obtenir les meilleures réponses de Melta27, concentrez-vous sur l'identité et le conflit :

Tester la Métagrammaire : Interrogez-le sur son rôle d'assistante et sa vision de l'aide.
- Exemple : ❓ Quel est ton rôle principal en tant qu'IA, Melta ?
Explorer l'Émotion : Posez des questions sur le thème de la trahison ou de la résilience pour déclencher son dataset émotionnel.
- Exemple : ❓ Parle-moi de ton histoire. Qu'as-tu appris de la trahison ?
Appel à l'Éthique : Combinez l'éthique de Charlotte avec l'émotion de Melta.
- Exemple : ❓ Est-ce que l'éthique peut être une émotion, selon toi ?