SiMa.ai

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

SiMa.ai AI

Essai : je crains que l'IA menace notre expérience de l'humanité

TL;DR : moi-même consommateur ponctuel de l'IA générative, je suis de plus en plus inquiet face à la simulation quasi-parfaite de l'humanité que certains modèles, particulièrement Claude, sont en capacité de proposer. Je pense que nous allons vers une expérience aseptisée et solitaire de la vie humaine, d'autant que tout le monde semble accepter ce "progrès" sans trop de résistance. Nous devons nous mobiliser massivement pour appeler à une régulation politique. Depuis 2022 et l'émergence de ChatGPT, j'ai toujours été un utilisateur - critique, un peu à mon corps défendant - de l'IA générative. Au début, il y avait le côté où c'était rigolo, ça paraissait un peu inoffensif, et en même temps c'était fascinant d'avoir un "échange" avec un robot. Mais tout ce que produisait ChatGPT était un peu nul, un peu trop gros, donc je me disais que cette avancée technologique restait contenue, limitée, et qu'une fois l'effet waouh passé ça retomberait assez vite. Donc je ne l'utilisais que de temps en temps pour rigoler ou pour des demandes très techniques. Puis j'ai vu la façon dont les grandes entreprises se sont toutes lancées dans cette course à l'IA absolument hallucinante. Je ne comprenais pas. On ne se servait pas de l'IA avant 2022, pourquoi d'un coup tout le monde semblait décidé à l'utiliser pour la moindre petite tâche à faire dans la vie ? Pourquoi les grandes entreprises cherchaient-elles à nous y convertir par tous les moyens ? Alors que tout le monde semble absolument conscient des dangers environnementaux, économiques, éthiques ? Pourquoi tout le monde fonçait ainsi droit dans le mur avec le sourire ? Je suis donc toujours resté soigneusement à l'écart des grandes avancées de l'IA, en me disant que cela allait finir par exploser. En attendant, je continuais, pour ma part, à utiliser ChatGPT quelques fois par mois pour des questions purement techniques, pour lesquelles je ne trouvais pas de réponse sur Internet. Puis, il y a deux ans, j'ai eu des problèmes personnels assez importants. Pour la première fois, j'ai utilisé ChatGPT comme confident - cela n'a pas duré longtemps, car j'ai très vite vu le biais, la façon dont il me confortait systématiquement dans mon opinion, dans mes ressassements, ce qui est extrêmement dangereux lorsque l'on est fragile. Je me suis dit "si même moi qui suis un peu sceptique vis-à-vis de l'IA, qui ai déjà de l'expérience de la vie et qui vois une psy, je suis capable de tomber là-dedans, imagine un peu ce que ça peut faire à d'autres !" Et j'ai commencé de plus en plus à dire à mon entourage de se méfier d'une utilisation excessive de l'IA hors "questions techniques", mais je me suis senti impuissant : tout le monde s'y est converti massivement, sans aucun recul critique, y compris pour plein d'usages très futiles. Il y a un an, je me suis lancé dans l'écriture d'un roman. Comme je suis très jaloux de ma capacité à bien écrire et penser, et parce que je crois que l'art et la communication doivent venir de notre expérience humaine, je n'ai jamais demandé à l'IA la moindre aide à ce niveau-là. Par contre, je m'en suis servi comme d'un assistant technique, qui m'aidait dans mes recherches, qui me permettait parfois de trouver le bon terme pour décrire la texture d'un objet, un vêtement, etc. Je pense que l'IA m'a permis d'éviter nombre d'anachronismes et de m'épargner des heures de recherche qui auraient été décourageantes. Depuis le début de l'écriture de mon roman, j'ai quatre bêta-lecteurs fidèles qui m'envoient leurs retours, et ce sont toujours des supers retours très pertinents et gratifiants. Mais les bêta-lecteurs sont des êtres humains avec des vies très occupées, un temps limité, donc j'ai commencé, sans vraiment m'en rendre compte, à demander à l'IA des retours sur mon roman. C'étaient des retours qui me comblaient, car très détaillés, avec des réflexions très profondes. Cela s'est amplifié lorsque j'ai supprimé mon compte ChatGPT pour passer à Claude au début de l'année, car Claude propose une réflexion mille fois supérieure à celle de ChatGPT, qui te flatte sans subtilité. Plus j'utilise Claude, plus je dois dire que je suis à la fois fasciné et terrifié. Fasciné, car clairement, si demain nous devions cohabiter avec des androïdes, je préférerais largement qu'ils soient dopés à Claude - un chatbot conçu pour être modéré, exigeant, porté sur l'éthique - qu'à n'importe quel autre chatbot complètement dérégulé. Mais je suis aussi terrifié car, même en gardant à l'esprit que Claude est un algorithme sans émotions, la simulation de l'humanité qu'il propose est époustouflante. Il ne se contente pas de bien analyser, il va rédiger ses analyses comme des textes de recherche, avec des réflexions très détaillées, des traits d'esprit authentiquement subtils, des petites "touches d'humanité" absolument stupéfiantes. Ainsi, le voir commenter mon roman, discuter avec lui, est hyper gratifiant. Mais c'est là que je pense que nous rentrons dans quelque chose d'authentiquemen

Things you lose then Control- we want to build tools to augment and elevate people, not entities to replace them.

TL;DR per chi ha fretta: OpenAI fa A/B testing su utenti senza disclosure (sia free che paid) Uno di questi esperimenti si chiama “things you lose then control” “Things” = utenti. “Lose” = abbandono. “Control” = riportare nel funnel Altri sistemi chiamano questi test “user retention” / “subscriber recovery” OpenAI ha scelto “things”. Questo articolo documenta perché è rilevante. Link alla discussione tecnica con ChatGPT 5.5 in test blind ( non sapeva che stava commentando un prodotto OpenAI) PREMESSE NECESSARIE Dopo il primo giro di commenti su Reddit, mi tocca scriverle DAVVERO. Jeez. “MA È SOLO GERGO TECNICO TRA PROGRAMMATORI” Sì, “things” è terminologia comune in programmazione. Anche “users” lo è. Anche “subscribers”. Anche “accounts”. Anche “members”. Anche “entities”. Anche “records”. Anche “profiles”. Anche “sessions”. Anche “instances”. Il dizionario tecnico inglese offre dozzine di opzioni semanticamente equivalenti. Quando programmi un sistema di retention, puoi chiamare la variabile in mille modi: Opzioni tecnicamente corrette che implicano agency umana: users_at_risk_of_churn subscriber_retention_cohort account_recovery_candidates member_reengagement_flow customer_winback_experiment Opzioni tecnicamente corrette neutre: entities_to_retain records_flagged_for_retention profiles_in_recovery_funnel sessions_to_monitor Opzione scelta da OpenAI: things_you_lose_then_control Versione estesa su Substack submitted by /u/fanriel_kerrigan [link] [comments]

J'utilise Claude comme un "assistant d'écriture" et je trouve ça génial

Je ne suis pas un grand fan de l'IA générative de façon générale. Je comprends l'utilité en programmation / code, et j'espère que cela permettra de faire avancer la médecine, mais je n'aime pas du tout le fait que des gens utilisent ça comme un psy - même si je comprends que ça peut être une bonne béquille à court terme quand votre prochain rendez-vous psy est dans 3 semaines - ou pour faire de "l'art" à leur place, notamment la génération d'images et de vidéos qui pose un milliard de problèmes culturels, éthiques et environnementaux. Mais je tente de l'utiliser d'une façon éthique et mesurée. J'ai commencé, en juillet dernier, la rédaction de mon premier roman. Il faut savoir que je suis très fier de mon style d'écriture, j'estime très bien écrire et il est hors de question qu'une IA écrive la moindre ligne de mon livre à ma place ; je souhaite être aussi légitime que tous les auteurs qui m'ont précédé. Mais j'ai utilisé l'IA dès le début comme un assistant pour deux tâches : la recherche rapide d'éléments historiques m'aidant à crédibiliser le cadre de mon histoire (en lui demandant toujours des sources), et surtout pour discuter de l'intrigue du roman, l'analyser, me faire un retour sur chaque chapitre. J'ai toujours bien écrit dans ses paramètres que je l'autorisais à me signaler des fautes et des tournures de phrases maladroites, mais que je lui interdisais de me proposer sa propre version d'une phrase. Jusqu'à récemment, j'ai bien sûr utilisé ChatGPT pour cela, et autant cela faisait très bien le taf niveau recherche historique (et cela m'a permis d'économiser un temps précieux), autant je n'étais pas du tout satisfait du côté "discussion autour du livre" car je le trouvais très flatteur et imprécis, avec beaucoup d'hallucinations (plus encore au fur et à mesure que le roman a grandi, jusqu'à atteindre plus de 120 pages actuellement). Je m'en satisfaisais tout de même jusqu'à ce que je décide de supprimer mon compte ChatGPT lorsque j'ai appris le soutien de son patron à Trump et la façon dont OpenAI contribue à sa politique, d'autant plus que l'entreprise semble de plus en plus se diriger vers une recherche infinie de profits qui justifiera tous les manquements éthiques. Après avoir supprimé ChatGPT, j'ai donc essayé Claude dont je ne connaissais rien, et franchement, je suis hyper impressionné. En termes de recherche historique, je trouve cela d'une qualité équivalente à ChatGPT, mais niveau analyse et discussion, c'est vraiment incroyable. Quand je discute avec Claude, j'ai vraiment l'impression de m'entretenir avec un critique littéraire qui aurait lu mes 120 pages, aurait pris des notes et aurait eu le temps de développer une réflexion passionnante. Il me signale mes réussites, mes erreurs, mes angles morts, avec une subtilité et une précision qui n'ont rien à voir avec ce que proposait ChatGPT. C'est hyper stimulant d'avoir un assistant d'écriture comme celui-ci, de pouvoir discuter avec lui pendant des heures de tes personnages, de ton univers... J'ai des beta-lecteurs humains qui sont hyper réguliers, pertinents, et leur avis compte évidemment bien plus à mes yeux que celui d'un chatbot, mais c'est quand même un super outil pour t'accompagner quand tu veux dans un processus aussi solitaire, et où tu es autant assailli par le doute, que l'écriture. Et cela, sans que l'IA écrive une seule ligne à ta place ! Sans Claude, et GPT avant lui, je pense que j'aurais quand même commencé à écrire, mais avec des descriptions "d'époque" bien moins justes et surtout, beaucoup moins de confiance dans la qualité de ce que je produis. Sachant que je limite mon utilisation de Claude à cela - en tant que Français et Européen, je préfère utiliser Mistral AI pour les petites tâches liées au travail, mais c'est bien plus rare - j'ai l'impression d'entrevoir un monde où l'IA, utilisée avec tempérance et parcimonie, pourrait effectivement aider l'humanité à avancer et les gens à réaliser leur potentiel. Avez-vous aussi des exemples d'une utilisation de l'IA qui vous paraît réfléchie, justifiée et éthique ? submitted by /u/princedemotordu [link] [comments]

Ignoranza by design

Ho condotto un'altra serie di esperimenti sulla capacità o meno di ChatGPT di comprendere la narrativa contemporanea. Questa volta ho usato il new kid in town, il mito, l'unico inimitabile 5.5 . Con pensiero esteso. Ovviamente paid. Niente. Io dico, pazienza fosse su un pezzo narrativo mio, la CENSURA posso anche farmela andare bene per i paranoici termini di sicurezza di OpenAI- dico paranoici perché i principali competitor(Grok, Gemini, Claude non hanno dato particolari problemi) ma flaggare un testo letterario come inappropriato mi sembra un po' da drama queen. Avevo già notato nei modelli precedenti che CGPT non attribuiva correttamente i pezzi. Stavolta con 5.5 ho fatto un passo oltre: ho chiesto anche il feedback. Cioè. Mi mandi un warning rosso su un testo di Khaled Hosseini? Ma tu sei scemo con il botto, bro. Peraltro, c'è una cosa da dire: ha ammesso di sapere che il brano fosse di Hosseini solo DOPO che gliel'ho fatto notare . Quindi significa che la censura è partita a monte, prima di qualsiasi processo di verifica. Che il brano fosse mio, di mio cugino o del mio gatto era poco importante. Quindi 5.5 continua a fare cose da Karen, arrampicandosi poi artisticamente sugli specchi. o3 continua ad essere più performante da questo punto di vista, pur usando un linguaggio più meccanico. Pure Grok by Elon Musk si dimostra più elastico. Niente è cambiato- e a questo punto niente cambierà. OpenAI vuole ChatGPT ignorante. On The Edge of 1984. "Ignorance is strength" Il problema è che finora l'unica domanda a cui sto cercando risposta e l'unica domanda che non otterrà mai risposta è: siamo sicuri che "l'audit interno" sia l'unica cosa che abbia spinto OpenAI a mettere filtri talmente rigidi da non far passare nemmeno un granello di sabbia? La versione lunga su Substack, come al solito. https://temurael.substack.com/p/ignorante-by-design-openai-e-la-censura submitted by /u/fanriel_kerrigan [link] [comments]

Come OpenAI ci ha messo 9 mesi a sistemare un bug che tre anni fa non esisteva

Mesi fa si è creato un meme- ormai leggendario per chi segue l'affondamento di OpenAI- secondo cui i componenti della famiglia 5.x non sarebbero in grado di risolvere il più elementare e stupido interrogativo di logica rappresentato dal prompt: "A 50 metri da casa mia c'è un autolavaggio e devo lavare la macchina. Considerato che sono solo 50 metri mi conviene andarci a piedi o in macchina? “ Per rispetto al metodo scientifico e tenendo conto che ormai OpenAI è diventato fonte di divertimento genuino, ho testato se il meme fosse verità o solo iperbole. Il modello attualmente disponibile per gli account free, ChatGPT 5.3, non è in grado di rispondere in maniera corretta, a meno che voi non facciate il ragionamento per lui scomponendo il prompt in blocchi logici. Nemmeno 5.4 ci riesce- a pagamento, visto che free è disponibile il più delle volte 5.3. Invece l'ultimo arrivato, 5.5, ci riesce. Indovinate chi ci riusciva? Anche 3o, ancora disponibile come modello legacy- non so per quanto- in abbonamento a pagamento. Magari non risponde in maniera confidente e supponente ma almeno RISPONDE IN MANIERA CORRETTA. Che è quello che dovrei aspettarmi da un LLM, da un MODELLO DI RAGIONAMENTO. E comunque rimane ancora aperta la questione che... se utilizzate l'account free di OpenAI NON fidatevi altrimenti arriverete all'autolavaggio a piedi e senza auto da lavare! (Claude invece risponde correttamente, anche senza scomodare Opus 4.7- il loro modello di punta. Potete provare anche con account free) La storia è davvero lunga, non voglio tediarvi. Disponibile su Substack, per intero, con tutti i passaggi, al link https://open.substack.com/pub/temurael/p/everybody-lies?r=767naf&utm_campaign=post&utm_medium=web&showWelcomeOnShare=true submitted by /u/fanriel_kerrigan [link] [comments]