La forma della personalizzazione futura
Il cambiamento può avvenire in modo inaspettatamente veloce nel business dei social media. Sebbene la pubblicità mirata sia ancora una macchina per fare soldi per le piattaforme di social media, il suo motore ha iniziato a scoppiettare. Da quando Apple ha dato ai suoi utenti il controllo sulla possibilità che le app possano tracciare il loro comportamento nel 2021, i dati per il targeting sono improvvisamente diventati più scarsi . I modelli di business basati su abbonamento sono in aumento. Stanno fiorendo modalità alternative di monetizzazione , come la creazione di contenuti che non sono altro che pubblicità.
L'adattamento delle strategie di monetizzazione non significa la fine dell'analisi dei big data come proposta di valore fondamentale dietro i social media. Il modello di business basato sulla pubblicità ha creato un ecosistema che fondeva l'ingegneria economica con la scienza dei dati. Come Viljoen et al. affermano nella loro visione critica dell'economia delle piattaforme, le piattaforme implementano il design del meccanismo per selezionare un risultato e quindi decodificano le regole e le condizioni per raggiungerlo. Il design del meccanismo era stato sviluppato nella teoria economica per organizzare ambienti in cui i partecipanti rivelassero le loro preferenze. Le aste, oggi ampiamente utilizzate per distribuire pubblicità online, sono uno di questi meccanismi mediante i quali gli inserzionisti possono essere incentivati a offrire il prezzo che sono effettivamente disposti a pagare per pubblicare il loro annuncio.
In teoria, la progettazione del meccanismo serve al benessere sociale ottimizzando l' allocazione del valore nella società . Come Viljoen et al. sostengono che, nella sua applicazione nel mondo reale, l'assegnazione di opzioni ai consumatori ottimizza le entrate e/o il vantaggio informativo delle piattaforme. La progettazione del meccanismo è stata trasformata da uno strumento per rivelare le preferenze a uno per dedurre le preferenze da dati comportamentali o associazioni statistiche. Tuttavia, i dati sulle scelte passate delle persone non sempre rivelano le loro preferenze. Le inferenze possono essere sbagliate e gli effetti su larga scala di un algoritmo che distribuisce contenuti sui social media che è stato addestrato su dati distorti sono significativi. Non riuscire a identificare correttamente le preferenze è un problema, la manipolazione deliberata è un altro. Non tutte le raccomandazioni algoritmiche per i contenuti e non tutte le pubblicità mirate mirano a soddisfare le "vere" preferenze dei consumatori; alcuni mirano semplicemente a trarre vantaggio dall'incapacità dei consumatori di agire razionalmente. Con l'intelligenza artificiale ("AI"), il potenziale è ancora maggiore per le aziende di scoprire e sfruttare pregiudizi e vulnerabilità nei consumatori di cui esse stesse non sono a conoscenza.
Il punto di questa immersione nell'ingegneria economica degli ambienti personalizzati su piattaforme digitali è evidenziare la creazione intenzionale di insiemi di scelta curati algoritmicamente per i consumatori. Come può la legge garantirne l'equità?
In questo breve saggio, considero il potenziale di riforma della legge per affrontare la personalizzazione fatta nell'interesse di piattaforme, inserzionisti e commercianti. Contrasto questo sforzo con la possibilità di rivoluzionare la legge personalizzando la legge stessa nell'interesse dei consumatori. Nella storia della scienza, è stato detto che il test definitivo per attenersi a un paradigma è se è una buona guida per i problemi futuri . Applicato ai dibattiti teorici sulla personalizzazione e sul diritto, la necessità di riforma o rivoluzione dovrebbe essere misurata rispetto ai problemi derivanti dallo scatenamento delle tecnologie di personalizzazione.
Dalla società dei consumi alla società dell'intelligenza artificiale
Dagli anni '50, le società occidentali si sono evolute da società di consumo a società di servizi e, più recentemente, a società digitali. Oggi sembriamo essere sul punto di trasformarci in società di intelligenza artificiale . Finora, il diritto dei consumatori ha accompagnato questi cambiamenti attraverso la riforma, attenendosi alle sue informazioni e ai paradigmi del consumatore ragionevole. Il paradigma dell'informazione stabilisce che i consumatori prenderanno decisioni razionali se solo riceveranno informazioni sufficienti. Il punto di riferimento rispetto al quale vengono misurate le violazioni del diritto dei consumatori è un consumatore medio ragionevolmente ben informato, attento e avveduto nelle scelte che compie. La legge comportamentale e l'economia hanno ovviamente a lungo messo in dubbio la capacità dei consumatori di decidere razionalmente, a causa dei limiti della loro capacità cognitiva, nonché delle emozioni e delle motivazioni coinvolte nel prendere una decisione. Alla luce di queste intuizioni comportamentali, è letteralmente una costosa passione normativa per la legge mantenere vivo il paradigma del consumatore ragionevole, portando in modo dimostrativo i consumatori a spendere troppo.
Mettendo tra parentesi le intuizioni comportamentali, quando si passava dalla società dei consumatori a quella dei servizi, riformare la legge secondo i paradigmi esistenti era probabilmente sufficiente. Sotto l'impressione delle grossolane asimmetrie informative della società digitale e soprattutto dell'IA, le riforme potrebbero non essere più sufficienti per guidare i consumatori attraverso i problemi creati dalla personalizzazione. La rivoluzione sembra sempre più attraente. Per i paradigmi del diritto dei consumatori il futuro è dunque adesso.
Spingere i limiti dell'attuale ordinamento giuridico (riforma)
Guardando ai problemi odierni con la vulnerabilità dei consumatori digitali , potremmo chiederci se la riforma dell'attuale status quo legale potrebbe rendere i mercati digitali più equi. In alternativa, potremmo provare a utilizzare i paradigmi esistenti per annullare la personalizzazione nell'interesse di piattaforme, inserzionisti e commercianti. Il primo approccio è evolutivo, il secondo conservativo. Io sostengo che entrambi potrebbero essere vantaggiosi per i consumatori.
Un approccio evolutivo
Cominciamo con l'approccio evolutivo. È stato dimostrato in precedenza che anche all'interno degli elementi tradizionali del diritto c'è spazio per la riforma e una modesta granularità. Ho sostenuto altrove che quando i consumatori sono presi di mira esclusivamente in base al loro profilo comportamentale, i giudici potrebbero applicare il diritto dei consumatori in modo più granulare restringendo il test del consumatore medio. Invece di considerare come un consumatore idealizzato e ragionevole reagirebbe agli annunci mirati, i giudici potrebbero presumere che il consumatore mirato si comporti proprio come previsto dal profilo comportamentale basato sui dati che gli inserzionisti hanno creato di lei.
Questa può essere definita una forma negativa di personalizzazione della legge: prendere la personalizzazione fatta nell'interesse degli inserzionisti al suo valore nominale. Se un consumatore riceve pubblicità mirata sulla base di un'inferenza sul suo stato d'animo attuale, ad esempio perché ha appena perso il lavoro, non sarebbe giusto presumere che sia effettivamente suscettibile ai messaggi commerciali a causa del suo stato emotivo ansioso, come previsto ?
L'idea non è quella di sostenere che i giudici dovrebbero sempre rinunciare alla loro discrezionalità e presumere che i consumatori si comportino come previsto da annunci mirati. Le particolarità dell'ambiente di scelta dovrebbero avere un'influenza moderatrice. In un ambiente di mercato concentrato in cui i profili dei consumatori sono distribuiti tramite intermediari pubblicitari con un grande potere di mercato , la probabilità che un consumatore mirato veda annunci che non si basano sullo stesso profilo personale di sfruttamento può essere ridotta. In una situazione del genere, il ripristino dell'equità attraverso un test del consumatore medio più rigoroso appare normativamente soddisfacente. La natura evolutiva di questo approccio risiede nell'ulteriore granularizzazione del diritto dei consumatori nei casi in cui una pubblicità di sfruttamento incontra un mercato concentrato di servizi di intermediazione pubblicitaria.
Un approccio conservatore
Come potrebbe essere un approccio conservativo? Altrove , ho sostenuto di aggiungere rumore agli annunci mirati, ovvero esporre in modo casuale i consumatori a annunci non mirati, quindi rumorosi. Questo approccio è conservativo, in quanto gli ambienti rumorosi ristabiliscono i presupposti per una ragionevole scelta del consumatore. Tuttavia, non garantiscono risultati ragionevoli. Anche all'interno di insiemi di scelte non o meno personalizzate, le persone agiranno in modo irrazionale.
L'aggiunta di rumore al targeting contrasterebbe invece l'ingegneria economica effettuata dalle piattaforme digitali con una metrica normativa. Nel nostro studio abbiamo sviluppato un indice – il Concentration-after-Personalization Index (CAPI) – che consente di rilevare la concentrazione nell'esposizione dei consumatori a pubblicità mirate. Andando oltre i presupposti dell'approccio evolutivo di cui sopra, abbiamo mostrato quanto facilmente i consumatori possano essere presi di mira esclusivamente da inserzionisti sfruttatori, anche senza potere di mercato. L'aggiunta di rumore richiede, tuttavia, una scelta normativa sulla quantità di rumore da aggiungere per bilanciare gli interessi degli inserzionisti e dei consumatori. Nel documento, mostriamo che il grado ottimale di rumore può essere calcolato utilizzando il CAPI.
In entrambi gli approcci, la personalizzazione viene ancora eseguita nell'interesse di piattaforme, inserzionisti e commercianti. La legge si limiterebbe a reagire e incorporare (l'approccio evolutivo) o diluire (l'approccio conservativo) la previsione personalizzata o l'insieme di scelte. In entrambi i casi, l'applicazione della legge sui consumatori dipenderebbe dalle informazioni sulle metriche di targeting e sulla distribuzione degli annunci, che sono in gran parte detenute dagli intermediari pubblicitari. Per quanto riguarda l'infrastruttura della pubblicità online, l'aggiunta di rumore dovrebbe essere effettuata da intermediari pubblicitari. Le riforme suggerite dello status quo del diritto dei consumatori non guiderebbero quindi perfettamente attraverso gli attuali problemi con il potere (di mercato) delle piattaforme. La domanda è quindi se il diritto personalizzato – descritto da alcuni come il “ futuro del diritto ” – andrebbe meglio.
La scelta di un nuovo paradigma (rivoluzione)
Il rivoluzionario cambio di paradigma della legge personalizzata implementerebbe le intuizioni comportamentali portate alla luce dalla tecnologia dei big data, solo ora tenendo presente l'interesse del consumatore.Le informazioni divulgate ai consumatori potrebbero essere adattate alle loro esigenze comportamentali, personalizzando così il contenuto della legge stessa. Ciò significherebbe rinunciare al consumatore medio ragionevole e superare le sue critiche da parte dei ricercatori comportamentali. Il diritto personalizzato, invece, ci permetterebbe di mantenere vivo il paradigma dell'informazione. I consumatori potrebbero ricevere qualità e quantità personalizzate di informazioni, consentendo loro di prendere decisioni più razionali.
C'è una differenza di progettazione tra i suggerimenti riformatori di cui sopra e l'idea di diritto personalizzato qui considerata. I primi mitigano la personalizzazione fatta nell'interesse di inserzionisti e commercianti. Sopra, l'ho definito un approccio negativo. La legge personalizzata, tuttavia, significherebbe la personalizzazione fatta nell'interesse dei consumatori. Cambierebbe il punto di riferimento del diritto dei consumatori e posso quindi definirlo un approccio positivo.
Se la personalizzazione dovesse essere fatta tenendo conto degli interessi legali sia dei consumatori che dei commercianti/inserzionisti, la complessità della legge aumenterebbe inevitabilmente, come ha sottolineato Grigoleit . Aumenterebbe la necessità di nuovi strumenti giuridici per calibrare quantitativamente gli interessi. Con il CAPI di cui sopra, abbiamo mostrato come un indice quantitativo possa effettivamente essere utilizzato per determinare un grado ottimale di rumore, considerando gli interessi concorrenti di consumatori e inserzionisti.
Questo saggio non mira a prendere una posizione decisiva né a favore né contro il diritto personalizzato. Invece, conclude considerando quanto bene il diritto personalizzato guiderebbe attraverso i problemi futuri, applicando quindi il test della storia scientifica per attenersi a un paradigma o adottarne uno nuovo. Ciò ovviamente comporta uno sguardo al futuro, poiché la legge veramente personalizzata deve ancora arrivare. I problemi da considerare sono quindi realmente i problemi futuri del futuro.
I futuri problemi del futuro
Alcuni dei problemi futuri del futuro saranno probabilmente creati dalla stessa legge personalizzata. Ad esempio, potrebbe fornire informazioni sul profilo decisionale di un consumatore e diventare un'ulteriore fonte di dati per l'analisi inferenziale. Supponiamo che tu ne abbia quattro e che io abbia due settimane per recedere da un contratto. In aggregazione con i diritti di ritiro dalla popolazione, questa differenza può fornire spunti a inserzionisti e commercianti sulla nostra rispettiva capacità di prendere decisioni economicamente valide.
Dovremmo stare attenti a presumere che la personalizzazione funzionerà ugualmente bene per tutti i consumatori. Le leggi personalizzate possono funzionare male proprio come gli annunci personalizzati. Se non riusciamo a prendere di mira con precisione la legge e tale fallimento crea vulnerabilità nei consumatori, allora scopriamo che i consumatori sono resi vulnerabili dalla legge. Se ciò dovesse accadere, potrebbe diminuire l'accettazione della legge personalizzata tra i consumatori. Alcuni potrebbero non essere in grado di capire perché la legge li tratti in modo diverso dalle persone che conoscono mentre soffrono di svantaggi a causa della personalizzazione.
Alcuni dei problemi del futuro, tuttavia, probabilmente assomiglieranno molto ai problemi che stiamo affrontando oggi. Aggiungendo al punto appena fatto sull'accensione cilecca, proprio come l'analisi inferenziale eseguita nell'interesse di piattaforme, inserzionisti e commercianti, l'adattamento delle leggi in base ai dati comportamentali potrebbe subire pregiudizi. In un recente studio , Agan et al. mostrano che i dati delle scelte passate delle persone non riflettono necessariamente le loro preferenze e quindi producono un set di dati parziale. Dimostrano gli effetti negativi su larga scala dell'addestramento di un algoritmo di raccomandazione su tali dati distorti. Attingendo alla differenza tra " pensare velocemente e pensare lentamente ", lo studio mostra che un insieme di scelte istantanee del passato contiene un grado di distorsione più elevato rispetto a un insieme di scelte deliberate. La personalizzazione delle leggi richiederebbe pertanto un'attenta considerazione per quanto riguarda le circostanze di quelle passate decisioni dei consumatori che dovrebbero costituire la base di dati della personalizzazione.
Tuttavia, è difficile presumere che dati imparziali siano prontamente disponibili per questioni di diritto dei consumatori. Ad esempio, per generare informazioni sui processi decisionali dei consumatori durante gli acquisti online, la legge personalizzata dovrebbe attingere ai dati dei loro acquisti passati. Questi dati saranno generalmente generati su piattaforme private . Come accennato in precedenza, le piattaforme sono progettate per ottimizzare le entrate e il controllo delle informazioni. Deducono preferenze e comportamenti futuri nel proprio interesse. Per le piattaforme di social media, potrebbe essere molto più importante scoprire cosa spinge gli utenti a fare clic su un annuncio oa interagire con i contenuti piuttosto che scoprire quali sono le "vere" preferenze degli utenti.
Qualunque interesse plasmerà il futuro della personalizzazione – quelli dei consumatori o quelli di piattaforme, inserzionisti e commercianti – fintanto che i dati necessari saranno generati su piattaforme digitali, diversi problemi fondamentali della governance della piattaforma rimangono salienti: squilibri informativi, concentrazione e l'ingegneria economica degli insiemi di scelta.
Questi problemi non possono essere tutti affrontati dal diritto dei consumatori. Con il suo Digital Services Act (DSA), l'Unione Europea (UE) ha recentemente scelto di regolamentare le piattaforme in modo un po' più rigoroso, ma ha lasciato in gran parte intatto lo stato del diritto dei consumatori. Allo stesso tempo, il DSA fa spesso riferimento alla protezione dei consumatori. L'ambito del suo regime di responsabilità per i servizi di hosting si basa sul paradigma del consumatore medio (articolo 6, paragrafo 3, LDS). Cambiare la legge sui consumatori rinunciando al consumatore medio potrebbe quindi granularizzare le responsabilità delle piattaforme. Sebbene l'articolo 25 DSA protegga le "decisioni informate" degli utenti da manipolazioni o distorsioni del design dell'interfaccia, esclude le pratiche che sono coperte dal diritto dei consumatori. Anche una misura di riforma conservativa come l'aggiunta di rumore al targeting potrebbe quindi dover essere implementata tramite la legge sui consumatori, sebbene si limiti a ripristinare i presupposti di una ragionevole scelta del consumatore attraverso la governance della piattaforma.
Sembra che una corretta personalizzazione del diritto dei consumatori richiederebbe condizioni di generazione dei dati su piattaforme che il solo diritto dei consumatori non può garantire. Allo stesso tempo, il DSA come elemento centrale della governance della piattaforma dell'UE delimita il suo mandato facendo riferimento ai vecchi paradigmi del diritto dei consumatori. Se assisteremo a una riforma oa una rivoluzione del diritto potrebbe quindi dipendere da dove gli attuali paradigmi giuridici cesseranno per la prima volta di guidare bene attraverso i problemi di personalizzazione: diritto dei consumatori o diritto della governance delle piattaforme. Con le mutevoli strategie di monetizzazione sulle piattaforme dei social media, molti dei suoi utenti saranno consumatori in un contesto e inserzionisti in un altro. Nel tentativo di affrontare bene questa complessità, la pressione per granularizzare o addirittura rivoluzionare i parametri di riferimento legali del comportamento ragionevole del consumatore potrebbe aumentare ulteriormente.
Questa è la traduzione automatica di un articolo pubblicato su Verfassungsblog all’URL https://verfassungsblog.de/shape-of-personalisation/ in data Mon, 22 May 2023 13:34:17 +0000.