И Канада забранява социалните мрежи за деца до 16 години

Канада може скоро да стане поредната държава, която налага сериозни ограничения върху използването на социалните мрежи от деца и тийнейджъри. Тази седмица правителството представи нов законопроект – Safe Social Media Act, който ще забрани на лица под 16 години да създават профили в социални мрежи и ще въведе редица

нови задължения за дигиталните платформи и компаниите за изкуствен интелект.

Ако бъде приет, Канада ще се присъедини към държави като Австралия, Индонезия и Малайзия, които вече са предприели подобни мерки с цел да ограничат негативното влияние на социалните мрежи върху децата. Канадското предложение е част от по-широка международна тенденция, въпреки че

все още е рано да се оценят реалните резултати от подобни политики, пише ynetnews.

Според законопроекта компаниите ще бъдат задължени да проектират услугите си така, че да бъдат по-безопасни за непълнолетните потребители. Те ще трябва също така бързо да премахват съдържание, съдържащо генерирани от изкуствен интелект дийпфейкове, както и материали, свързани със сексуална

експлоатация на деца или с насилие над жертви на сексуални престъпления.

Законодателството предвижда още задължително ясно обозначаване на съдържанието, създадено чрез изкуствен интелект, улесняване на подаването на сигнали за вредно и насилствено съдържание и предоставяне

на по-ефективни инструменти за блокиране на проблемни профили.

Законопроектът включва и първите в Канада разпоредби, насочени специално към чатботове с изкуствен интелект. За разлика от социалните мрежи, правителството не възнамерява да ограничава достъпа до AI системи според възрастта на потребителите.

Вместо това платформите ще бъдат задължени да предприемат мерки за

предотвратяване на разпространението на вредно съдържание от чатботове, да ограничават поведение, което може да навреди на потребителите, и да въведат механизми за спешна реакция при кризисни ситуации.

Канадският министър на идентичността и културата Marc Miller обясни,

че вредите от социалните мрежи се изследват от години, докато ефектите от чатботовете все още не са достатъчно добре разбрани и те не изпълняват същата социална функция. Поради това на този етап не се предвиждат възрастови ограничения за достъпа до тях.

Според медийни публикации тези разпоредби са били добавени

след едно от най-тежките масови убийства в Канада през последните години, извършено през февруари в училище в град Tumbler Ridge, провинция British Columbia.

След нападението е станало известно, че извършителят е водил разговори с

ChatGPT месеци преди атаката, включващи насилствени сценарии и обсъждане на оръжия. В изявление след трагедията канадският премиер Марк Карни коментира случая и необходимостта от по-строги мерки за безопасност.

Разговорите с чатбота са били засечени от системите за сигурност на OpenAI и

според публикации са предизвикали вътрешни обсъждания сред служители на компанията дали да бъдат уведомени правоохранителните органи. В крайна сметка акаунтът е бил спрян, но полицията не е била уведомена, тъй като не е била установена „непосредствена и достоверна заплаха“.

След атаката компанията беше подложена на сериозни критики и срещу нея беше

заведено дело от семейството на една от жертвите, което твърди, че трагедията е можела да бъде предотвратена, ако властите са били предупредени навреме.

Именно поради този случай новият канадски законопроект за първи

път включва конкретни задължения за платформите за изкуствен интелект, вместо да се фокусира единствено върху социалните мрежи.