‘ஆபத்தானது மற்றும் ஆபத்தானது’: பயனர்களின் உடல்நலம் ஆபத்தில் சிக்கிய பிறகு கூகுள் அதன் சில AI சுருக்கங்களை நீக்குகிறது | கூகுள்

கூகிள் அதன் சில செயற்கை நுண்ணறிவு சுகாதார சுருக்கங்களை பின்னர் நீக்கியுள்ளது ஒரு கார்டியன் விசாரணை தவறான மற்றும் தவறான தகவல்களால் மக்கள் பாதிக்கப்படும் அபாயம் உள்ளது.

ஒரு தலைப்பு அல்லது கேள்வியைப் பற்றிய அத்தியாவசியத் தகவல்களின் ஸ்னாப்ஷாட்களை வழங்குவதற்கு ஜெனரேட்டிவ் AI ஐப் பயன்படுத்தும் AI மேலோட்டப் பார்வைகளை நிறுவனம் கூறியுள்ளது.உதவிகரமாக“மற்றும்”நம்பகமான”.

ஆனால் தேடல் முடிவுகளின் மேலே தோன்றும் சில சுருக்கங்கள், தவறான சுகாதாரத் தகவலை வழங்குகின்றன, இதனால் பயனர்களுக்கு தீங்கு ஏற்படும் அபாயம் உள்ளது.

ஒரு வழக்கில் நிபுணர்கள் “ஆபத்தானவை” மற்றும் “ஆபத்தானவை” என்று விவரித்துள்ளனர். கூகுள் தீவிர கல்லீரல் நோயால் பாதிக்கப்பட்டவர்களை தாங்கள் ஆரோக்கியமாக இருப்பதாக தவறாக நினைத்து விடக்கூடிய முக்கியமான கல்லீரல் செயல்பாடு சோதனைகள் பற்றிய போலியான தகவல்களை வழங்கியது.

“கல்லீரல் இரத்தப் பரிசோதனைகளுக்கான இயல்பான வரம்பு என்ன” என்று தட்டச்சு செய்வதன் மூலம் ஏராளமான எண்கள், சிறிய சூழல் மற்றும் தேசியம், பாலினம், இனம் அல்லது நோயாளிகளின் வயது ஆகியவற்றைக் கணக்கிடவில்லை, கார்டியன் கண்டறிந்தது.

கூகிளின் AI மேலோட்டங்கள் இயல்பானவை என்று கூறியது, உண்மையில் சாதாரணமாகக் கருதப்பட்டவற்றிலிருந்து கடுமையாக மாறுபடும் என்று நிபுணர்கள் தெரிவித்தனர். சுருக்கங்கள் தீவிர நோய்வாய்ப்பட்ட நோயாளிகள் தங்களுக்கு ஒரு சாதாரண சோதனை முடிவு இருப்பதாக தவறாக நினைக்க வழிவகுக்கும், மேலும் பின்தொடர்தல் சுகாதாரக் கூட்டங்களில் கலந்துகொள்ள கவலைப்படுவதில்லை.

விசாரணைக்குப் பிறகு“கல்லீரல் இரத்த பரிசோதனைகளுக்கான இயல்பான வரம்பு என்ன” மற்றும் “கல்லீரல் செயல்பாட்டு சோதனைகளுக்கான இயல்பான வரம்பு என்ன” என்ற தேடல் சொற்களுக்கான AI மேலோட்டங்களை நிறுவனம் நீக்கியுள்ளது.

Google செய்தித் தொடர்பாளர் கூறினார்: “தேடலில் உள்ள தனிப்பட்ட நீக்குதல்கள் குறித்து நாங்கள் கருத்துத் தெரிவிப்பதில்லை. AI மேலோட்டங்கள் சில சூழ்நிலைகளைத் தவறவிட்டால், பரந்த மேம்பாடுகளைச் செய்ய நாங்கள் பணிபுரிகிறோம், மேலும் எங்கள் கொள்கைகளின்படி பொருத்தமான இடங்களில் நடவடிக்கை எடுப்போம்.”

கல்லீரல் சுகாதார அறக்கட்டளையான பிரிட்டிஷ் கல்லீரல் அறக்கட்டளையின் தகவல் தொடர்பு மற்றும் கொள்கை இயக்குநர் வனேசா ஹெப்டிச் கூறினார்: “இது ஒரு சிறந்த செய்தி, மேலும் இதுபோன்ற நிகழ்வுகளில் Google AI மேலோட்டங்கள் அகற்றப்பட்டதைக் கண்டு நாங்கள் மகிழ்ச்சியடைகிறோம்.

“இருப்பினும், கேள்வி வேறு வழியில் கேட்கப்பட்டால், தவறாக வழிநடத்தும் AI மேலோட்டம் இன்னும் கொடுக்கப்படலாம், மேலும் AI- தயாரித்த பிற சுகாதாரத் தகவல்கள் துல்லியமற்றதாகவும் குழப்பமானதாகவும் இருக்கும் என்று நாங்கள் கவலைப்படுகிறோம்.”

“lft குறிப்பு வரம்பு” அல்லது “lft சோதனை குறிப்பு வரம்பு” போன்ற அசல் வினவல்களின் சிறிய மாறுபாடுகளை Google இல் தட்டச்சு செய்வது AI மேலோட்டங்களைத் தூண்டியதாக கார்டியன் கண்டறிந்தது. இது ஒரு பெரிய கவலை, ஹெப்டிச் கூறினார்.

“கல்லீரல் செயல்பாட்டு சோதனை அல்லது எல்எஃப்டி என்பது பல்வேறு இரத்தப் பரிசோதனைகளின் தொகுப்பாகும். முடிவுகளைப் புரிந்துகொள்வதும் அடுத்து என்ன செய்வது என்பதும் சிக்கலானது மற்றும் எண்களின் தொகுப்பை ஒப்பிடுவதை விட நிறைய விஷயங்களை உள்ளடக்கியது.

“ஆனால் AI மேலோட்டங்கள் தடிமனான சோதனைகளின் பட்டியலை வழங்குகின்றன, இந்த எண்கள் தங்கள் சோதனைக்கு சரியானவையாக இருக்காது என்பதை வாசகர்கள் தவறவிடுவதை மிகவும் எளிதாக்குகிறது.

“கூடுதலாக, AI மேலோட்டங்கள் யாரோ ஒருவர் தீவிர கல்லீரல் நோயால் பாதிக்கப்பட்டு மேலும் மருத்துவ சிகிச்சை தேவைப்படும்போது இந்த சோதனைகளுக்கு இயல்பான முடிவுகளைப் பெறலாம் என்று எச்சரிக்கவில்லை. இந்த தவறான உத்தரவாதம் மிகவும் தீங்கு விளைவிக்கும்.”

கூகுள், இது உலகளாவிய தேடுபொறி சந்தையில் 91% பங்கைக் கொண்டுள்ளதுகார்டியன் வழங்கிய புதிய எடுத்துக்காட்டுகளை மதிப்பாய்வு செய்வதாகக் கூறினார்.

ஹெப்டிச் கூறினார்: “இது எல்லாவற்றிலும் எங்கள் பெரிய கவலை என்னவென்றால், இது ஒரு தேடல் முடிவைத் தேர்வுசெய்கிறது மற்றும் கூகிள் அதற்கான AI மேலோட்டங்களை முடக்கலாம், ஆனால் அது ஆரோக்கியத்திற்கான AI மேலோட்டங்களின் பெரிய சிக்கலைச் சமாளிக்கவில்லை.”

நோயாளிகள் தகவல் மன்றத்தின் தலைவர் சூ ஃபரிங்டன், நோயாளிகள், பொதுமக்கள் மற்றும் சுகாதார நிபுணர்களுக்கு ஆதார அடிப்படையிலான சுகாதாரத் தகவலை ஊக்குவிக்கிறது, சுருக்கங்களை அகற்றுவதை வரவேற்றார், ஆனால் தனக்கு இன்னும் கவலைகள் இருப்பதாகக் கூறினார்.

“இது ஒரு நல்ல முடிவு, ஆனால் கூகிளின் உடல்நலம் தொடர்பான தேடல் முடிவுகளில் நம்பிக்கையைப் பேணுவதற்கு இது முதல் படியாகும். Google AI மேலோட்டங்கள் தவறான சுகாதாரத் தகவலை மக்களுக்கு வழங்குவதற்கு இன்னும் பல எடுத்துக்காட்டுகள் உள்ளன.”

உலகெங்கிலும் உள்ள மில்லியன் கணக்கான பெரியவர்கள் ஏற்கனவே நம்பகமான சுகாதார தகவலை அணுக போராடுகிறார்கள், ஃபாரிங்டன் கூறினார். “அதனால்தான், நம்பகமான சுகாதார நிறுவனங்களிடமிருந்து வலுவான, ஆராய்ச்சி செய்யப்பட்ட சுகாதாரத் தகவல் மற்றும் கவனிப்பு சலுகைகளை கூகிள் மக்களுக்கு வழங்குவது மிகவும் முக்கியமானது.”

AI மேலோட்டங்கள் இன்னும் பாப் அப் செய்யப்படுகின்றன கார்டியன் முதலில் கூகுளுக்கு எடுத்துரைத்த பிற எடுத்துக்காட்டுகள். “முற்றிலும் தவறு” மற்றும் “மிகவும் ஆபத்தானது” என்று வல்லுநர்கள் விவரித்த புற்றுநோய் மற்றும் மனநலம் பற்றிய தகவல்களின் சுருக்கங்கள் அவற்றில் அடங்கும்.

இந்த AI மேலோட்டங்கள் ஏன் அகற்றப்படவில்லை என்று கேட்டதற்கு, கூகுள் அவர்கள் நன்கு அறியப்பட்ட மற்றும் புகழ்பெற்ற ஆதாரங்களுடன் இணைத்துள்ளதாகவும், மேலும் நிபுணர்களின் ஆலோசனையைப் பெறுவது முக்கியம் என மக்களுக்குத் தெரிவித்ததாகவும் கூறியது.

ஒரு செய்தித் தொடர்பாளர் கூறினார்: “எங்கள் மருத்துவர்களின் உள் குழு எங்களுடன் பகிர்ந்து கொள்ளப்பட்டதை மதிப்பாய்வு செய்தது மற்றும் பல சந்தர்ப்பங்களில், தகவல் தவறானது அல்ல, மேலும் உயர்தர வலைத்தளங்களால் ஆதரிக்கப்பட்டது.”

ஃபியூச்சரிசம் என்ற தொழில்நுட்ப இணையதளத்தின் மூத்த ஆசிரியர் விக்டர் டேங்கர்மேன், கூகுள் செய்ய வேண்டிய வேலை இருக்கிறது என்று கார்டியனின் விசாரணையின் முடிவுகள் காட்டுகின்றன என்றார்.அதன் AI கருவி ஆபத்தான சுகாதார தவறான தகவல்களை வழங்கவில்லை என்பதை உறுதிப்படுத்த”.

விரைவு வழிகாட்டி

இந்தக் கதையைப் பற்றி ஆண்ட்ரூ கிரிகோரியைத் தொடர்பு கொள்ளவும்

காட்டு

இந்தக் கதையைப் பற்றி நீங்கள் பகிர்ந்து கொள்ள ஏதேனும் இருந்தால், பின்வரும் முறைகளில் ஒன்றைப் பயன்படுத்தி நீங்கள் ஆண்ட்ரூவைத் தொடர்புகொள்ளலாம்.

கார்டியன் பயன்பாட்டில் கதைகள் பற்றிய குறிப்புகளை அனுப்பும் கருவி உள்ளது. ஒவ்வொரு கார்டியன் மொபைல் பயன்பாடும் செய்யும் வழக்கமான செயல்பாட்டிற்குள் செய்திகள் என்க்ரிப்ட் செய்யப்பட்டு மறைக்கப்படுகின்றன. நீங்கள் எங்களுடன் தொடர்பு கொள்கிறீர்கள் என்பதை இது ஒரு பார்வையாளருக்குத் தெரியாமல் தடுக்கிறது, சொல்லப்படுவதை ஒருபுறம் இருக்கட்டும்.

உங்களிடம் ஏற்கனவே கார்டியன் ஆப்ஸ் இல்லையென்றால், அதைப் பதிவிறக்கவும் (iOS/அண்ட்ராய்டு) மற்றும் மெனுவுக்குச் செல்லவும். ‘பாதுகாப்பான செய்தியிடல்’ என்பதைத் தேர்ந்தெடுக்கவும்.

மின்னஞ்சல் (பாதுகாப்பானது அல்ல)

உங்களுக்கு அதிக அளவிலான பாதுகாப்பு அல்லது ரகசியத்தன்மை தேவையில்லை என்றால் நீங்கள் மின்னஞ்சல் செய்யலாம் andrew.gregory@theguardian.com

SecureDrop மற்றும் பிற பாதுகாப்பான முறைகள்

கவனிக்கப்படாமல் அல்லது கண்காணிக்கப்படாமல் நீங்கள் tor நெட்வொர்க்கைப் பாதுகாப்பாகப் பயன்படுத்தினால், எங்கள் வழியாக கார்டியனுக்கு செய்திகளையும் ஆவணங்களையும் அனுப்பலாம். SecureDrop இயங்குதளம்.

இறுதியாக, எங்கள் வழிகாட்டி theguardian.com/tips எங்களைப் பாதுகாப்பாகத் தொடர்புகொள்வதற்கான பல வழிகளைப் பட்டியலிடுகிறது, மேலும் ஒவ்வொன்றின் நன்மை தீமைகளையும் விவாதிக்கிறது.

விளக்கம்: கார்டியன் டிசைன் / ரிச் கசின்ஸ்

பதில்களின் தரத்தில் அதிக நம்பிக்கை உள்ள கேள்விகளில் மட்டுமே AI மேலோட்டங்கள் காண்பிக்கப்படும் என்று கூகுள் கூறியது. நிறுவனம் பல்வேறு வகையான தகவல்களில் அதன் சுருக்கங்களின் தரத்தை தொடர்ந்து அளவிடுகிறது மற்றும் மதிப்பாய்வு செய்கிறது.

ஒரு கட்டுரையில் தேடுபொறி இதழ்மூத்த எழுத்தாளர் மாட் சதர்ன் கூறினார்: “ஏஐ மேலோட்டங்கள் தரவரிசை முடிவுகளுக்கு மேலே தோன்றும். தலைப்பு ஆரோக்கியமாக இருக்கும்போது, ​​​​பிழைகள் அதிக எடையைக் கொண்டுள்ளன.”