Text Generation
Transformers
Safetensors
German
gpt2
legal
KI
Machine Learning
NLP
Transformers
Deep Learning
Sprachmodell
GPT-2
Deutsch
Textgenerierung
Open Source
Forschung
Legal
Automatisierung
Modelltraining
Künstliche Intelligenz
AI Assistent
Natural Language Processing
German NLP
GPT-2 Fine-Tuning
text-generation-inference
Instructions to use Atomic-Ai/AtomicGPT_2 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Atomic-Ai/AtomicGPT_2 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Atomic-Ai/AtomicGPT_2")# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Atomic-Ai/AtomicGPT_2") model = AutoModelForCausalLM.from_pretrained("Atomic-Ai/AtomicGPT_2", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Atomic-Ai/AtomicGPT_2 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Atomic-Ai/AtomicGPT_2" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Atomic-Ai/AtomicGPT_2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Atomic-Ai/AtomicGPT_2
- SGLang
How to use Atomic-Ai/AtomicGPT_2 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Atomic-Ai/AtomicGPT_2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Atomic-Ai/AtomicGPT_2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Atomic-Ai/AtomicGPT_2" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Atomic-Ai/AtomicGPT_2", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Atomic-Ai/AtomicGPT_2 with Docker Model Runner:
docker model run hf.co/Atomic-Ai/AtomicGPT_2
metadata
license: mit
widget:
- text: <user>Wie geht es dir?<End><AI Assistent>
tags:
- legal
- KI
- Machine Learning
- NLP
- Transformers
- Deep Learning
- Sprachmodell
- GPT-2
- Deutsch
- Textgenerierung
- Open Source
- Forschung
- Legal
- Automatisierung
- Modelltraining
- Künstliche Intelligenz
- AI Assistent
- Natural Language Processing
- German NLP
- GPT-2 Fine-Tuning
datasets:
- Atomic-Ai/AtomicGPT2-data
language:
- de
base_model:
- kkirchheim/german-gpt2-medium
pipeline_tag: text-generation
library_name: transformers
AtomicGPT 2.0
Überblick
AtomicGPT 2.0 ist die neueste Generation unseres KI-Modells und bietet eine deutlich bessere Leistung als unser Vorgänger, AtomicGPT 1.0. Dank eines erheblich erweiterten Datensatzes kann AtomicGPT 2.0 intelligentere Antworten liefern und ein besseres Verständnis der deutschen Sprache demonstrieren.
Vergleiche
| Aufgaben | L-GPT_1 | L-GPT_1.1 | L-GPT_1.5 | L-GPT_1.5 mini | AtomicGPT 1.0< | AtomicGPT 2.0 | AtomicGPT 3.0 |
|---|---|---|---|---|---|---|---|
| Q&A | 7.5% | 44.17% | 73.33% | 64.17% | 58.33% | 59.17% | 90% |
Verbesserungen gegenüber AtomicGPT 1.0
- Größerer Datensatz: Das Modell wurde mit einem viel umfangreicheren Datensatz trainiert, was zu einer besseren Sprachverarbeitung und allgemein fundierteren Antworten führt.
- Verbesserte Architektur: Basierend auf
kkirchheim/german-gpt2-medium, das bereits eine solide Grundlage für die deutsche Sprache bietet, konnten wir unser Modell effektiver trainieren. - Geplante Updates: Das Modell wird keine updates bekommen, weil AtomicGPT 3.0 kommst schneller als erwartet!
Installation & Nutzung
Voraussetzungen
- Python 3.x
transformerstorch
Codebeispiel zur Nutzung
from transformers import pipeline, AutoTokenizer
import torch
# Modell und Tokenizer laden
MODEL_PATH = "Atomic-Ai/AtomicGPT_2"
tokenizer = AutoTokenizer.from_pretrained(MODEL_PATH)
chatbot = pipeline(
"text-generation",
model=MODEL_PATH,
tokenizer=MODEL_PATH,
device=0 if torch.cuda.is_available() else -1
)
def generate_response(prompt):
output = chatbot(
prompt,
max_new_tokens=256,
eos_token_id=tokenizer.eos_token_id, # Stoppt am <End>-Token
pad_token_id=tokenizer.pad_token_id,
do_sample=True,
temperature=0.7,
top_p=0.9
)
return output[0]['generated_text']
def format_chat(user_input):
return f"<user>{user_input}<End><AI Assistent>"
def extract_assistant_response(full_text):
parts = full_text.split("<AI Assistent>")
if len(parts) > 1:
return parts[1].split("<End>")[0].strip()
return "Error: Response format invalid"
def main():
print("Chat gestartet! Gib 'exit' ein, um zu beenden.")
print("----------------------------------")
while True:
user_input = input("\nDu: ")
if user_input.lower() == 'exit':
break
prompt = format_chat(user_input)
full_response = generate_response(prompt)
assistant_response = extract_assistant_response(full_response)
print(f"\nAI Assistent: {assistant_response}")
if __name__ == "__main__":
main()
Support & Community
Unterstütze uns und werde Teil unserer Community! Discord beitreten