@baskin αγόρασα NVDA σήμερα νωρίς νωρίς ;) Θα επενδύσω στο καφενείο αν βάλετε deepseek
=> More informations about this toot | More toots from koustompola@kafeneio.social
@koustompola έχουμε llama-3.2-3b-instruct:q8_0 στο matrix, λίγο αργό γιατί είναι CPU αλλα κάνει δουλειά.
=> More informations about this toot | More toots from baskin@kafeneio.social
@baskin αν βάλετε deepseek θα σας δώσω GPU σαν τον Προμηθέα ένα πράμα
=> More informations about this toot | More toots from koustompola@kafeneio.social
@koustompola νοικιάρικη στο cloud θέλει, με κάνα 150€ τον μήνα.
=> More informations about this toot | More toots from baskin@kafeneio.social
@baskin 150;;;; Ωμπό.
=> More informations about this toot | More toots from koustompola@kafeneio.social
@koustompola ok και το cluster που το τρέχω με kubernetes κάνει άλλα 300€ το μήνα με 6 VMs και 5 bare metal αλλά οκ πάρε εσύ το node με την GPU να το κουμπώσω πάνω... έτσι πάει.
=> More informations about this toot | More toots from baskin@kafeneio.social
@baskin δεν έρχεται πιο φτηνά να έχεις local τούμπανο;
=> More informations about this toot | More toots from koustompola@kafeneio.social
@koustompola για προσωπική χρήση ναι, για να δώσεις API στον matrix server για όλους όχι και θες και γρήγορη σύνδεση upload και θα σε πατάνε κάτω τα calls και πως θα το έχεις dedicated 24/7.
=> More informations about this toot | More toots from baskin@kafeneio.social This content has been proxied by September (3851b).Proxy Information
text/gemini