ETV Bharat / science-and-technology

AIನ ಕರಾಳ ಮುಖ ಬಿಚ್ಚಿಟ್ಟ ಡೀಪ್ ಫೇಕ್; ಬೇಕಿದೆ ಕಡಿವಾಣ

ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನದ ಪ್ರತಿಕೂಲ ಪರಿಣಾಮಗಳನ್ನು ತಡೆಗಟ್ಟಲು ಕ್ರಮ ಕೈಗೊಳ್ಳುವುದು ಅಗತ್ಯವೆಂದು ತಜ್ಞರು ಪ್ರತಿಪಾದಿಸಿದ್ದಾರೆ.

Deepfakes reveal dark side of AI, call for stringent laws
Deepfakes reveal dark side of AI, call for stringent laws
author img

By ETV Bharat Karnataka Team

Published : Nov 12, 2023, 7:31 PM IST

ನವದೆಹಲಿ: ಮೆಟಾ ಸಿಇಒ ಮಾರ್ಕ್ ಜುಕರ್​ಬರ್ಗ್ ಮತ್ತು ಯುಎಸ್ ಮಾಜಿ ಹೌಸ್ ಸ್ಪೀಕರ್ ನ್ಯಾನ್ಸಿ ಪೆಲೋಸಿ ಅವರ ನಕಲಿ ವೀಡಿಯೊಗಳ ಮೂಲಕ 2019 ರಲ್ಲಿ ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನ ಮೊದಲ ಬಾರಿಗೆ ಕಾಣಿಸಿಕೊಂಡಿತ್ತು. ಡೀಪ್ ಲರ್ನಿಂಗ್ ಎಂಬ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ (ಎಐ) ರೂಪದ ಮೂಲಕ ಸೆಲೆಬ್ರಿಟಿಗಳ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ರಚಿಸುವ ಈ ತಂತ್ರಜ್ಞಾನ ಫೋಟೋಶಾಪಿಂಗ್​ಗೆ ಪರ್ಯಾಯವಾಗಿದೆ. ತಜ್ಞರ ಪ್ರಕಾರ ಎಐ ರಚಿಸಿದ ಡೀಪ್ ಫೇಕ್ ಆಡಿಯೊ ಹಾಗೂ ವೀಡಿಯೊಗಳ ಪ್ರಸಾರ ಇತ್ತೀಚಿನ ದಿನಗಳಲ್ಲಿ ಗಮನಾರ್ಹವಾಗಿ ಹೆಚ್ಚಾಗಿದೆ.

ಎಲ್ಲರಿಗೂ ಸುಲಭವಾಗಿ ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನ ಲಭ್ಯವಾಗುತ್ತಿರುವುದು ಡೀಪ್ ಫೇಕ್ ಕಂಟೆಂಟ್​ ಹೆಚ್ಚಾಗಲು ಕಾರಣವಾಗಿದೆ ಎನ್ನುತ್ತಾರೆ ಗಾಜ್​ಶೀಲ್ಡ್​ ಇನ್ಫೋಟೆಕ್​ನ ಸಿಇಒ ಸೋನಿತ್ ಜೈನ್. "ಮನರಂಜನೆ, ರಾಜಕೀಯ ಟೀಕೆ ಮತ್ತು ಮೋಸದ ಚಟುವಟಿಕೆಗಳಲ್ಲಿ ಡೀಪ್​ ಫೇಕ್ ಬಳಸಲಾಗುತ್ತಿದೆ. ಆದರೆ ಸ್ಪಷ್ಟ ಅನುಮತಿಯಿಲ್ಲದೆ ಡೀಪ್ ಫೇಕ್ ಸೃಷ್ಟಿಗಾಗಿ ವೈಯಕ್ತಿಕ ಡೇಟಾ ಸಂಗ್ರಹಣೆ ಮತ್ತು ಬಳಕೆಯನ್ನು ತಡೆಗಟ್ಟಲು ಡೇಟಾ ರಕ್ಷಣೆ ಮತ್ತು ಗೌಪ್ಯತೆ ಕಾನೂನುಗಳನ್ನು ಬಲಪಡಿಸಬೇಕಿದೆ" ಎಂದು ಜೈನ್ ಐಎಎನ್ಎಸ್​ಗೆ ತಿಳಿಸಿದರು.

ಡೀಪ್ ಫೇಕ್ ಗಳನ್ನು ಫಿಶಿಂಗ್ ದಾಳಿಗಳಲ್ಲಿ ಬಳಸಬಹುದು ಅಥವಾ ಕಂಪನಿಯೊಂದರ ಉದ್ಯೋಗಿಗಳು ಕಂಪನಿಯ ಡೇಟಾಗೆ ಅಪಾಯ ತರುವಂತೆ ಮಾಡಬಹುದು. ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನವು ಸಾರ್ವಜನಿಕ ಜೀವನದಲ್ಲಿರುವ ವ್ಯಕ್ತಿಗಳ ಗೌಪ್ಯತೆ ಮತ್ತು ವೈಯಕ್ತಿಕ ಹಕ್ಕುಗಳಿಗೆ ಗಮನಾರ್ಹ ಕುಂದು ತರಬಹುದು. ರಶ್ಮಿಕಾ ಮಂದಣ್ಣ ಪ್ರಕರಣದಲ್ಲಿ ನೋಡಿದಂತೆ, ವ್ಯಕ್ತಿಯ ಪ್ರತಿಷ್ಠೆಗೆ ಹಾನಿ ಮಾಡುವ ಅಥವಾ ವಿಶ್ವಾಸಾರ್ಹ ನಕಲಿ ವೀಡಿಯೊಗಳನ್ನು ರಚಿಸಲು ಇದನ್ನು ಬಳಸಬಹುದು.

ರಾಷ್ಟ್ರೀಯ ಭದ್ರತೆಗೆ ಅಪಾಯವನ್ನುಂಟುಮಾಡುವ ನಕಲಿ ಕಂಟೆಂಟ್​ ರಚಿಸಲು ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನವನ್ನು ಶಸ್ತ್ರವಾಗಿ ಬಳಸಬಹುದು. ತಜ್ಞರ ಪ್ರಕಾರ, ಸಾರ್ವಜನಿಕರ ಭಾವನೆಯನ್ನು ಪ್ರಚೋದಿಸಲು, ರಾಜಕಾರಣಿಗಳು ಅಥವಾ ನಾಯಕರ ನಕಲಿ ವೀಡಿಯೊಗಳನ್ನು ರಚಿಸಲು ಮತ್ತು ಗೊಂದಲ ಅಥವಾ ಸಂಘರ್ಷಗಳನ್ನು ಪ್ರಚೋದಿಸಲು ಇದನ್ನು ಬಳಸಬಹುದು.

ಕಳೆದ ವಾರ ಈ ಬಗ್ಗೆ ಮಾತನಾಡಿದ ಕೇಂದ್ರ ಎಲೆಕ್ಟ್ರಾನಿಕ್ಸ್ ಮತ್ತು ಐಟಿ ರಾಜ್ಯ ಸಚಿವ ರಾಜೀವ್ ಚಂದ್ರಶೇಖರ್, ಎಐ ನಿಂದ ರಚಿಸಲಾದ ಡೀಪ್​ ಫೇಕ್​ ಸಂತ್ರಸ್ತರು ಹತ್ತಿರದ ಪೊಲೀಸ್ ಠಾಣೆಗಳಲ್ಲಿ ಎಫ್​ಐಆರ್​ ದಾಖಲಿಸಬೇಕು ಮತ್ತು ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ (ಐಟಿ) ನಿಯಮಗಳು, 2021 ಮತ್ತು ಭಾರತೀಯ ದಂಡ ಸಂಹಿತೆ (ಐಪಿಸಿ) ಅಡಿಯಲ್ಲಿ ಪರಿಹಾರ ಪಡೆಯಬೇಕು ಎಂದು ಹೇಳಿದ್ದರು. ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ (ಐಟಿ) ನಿಯಮಗಳು, 2021 ರ ಅಡಿಯಲ್ಲಿ ಯಾವುದೇ ಬಳಕೆದಾರರು ತಪ್ಪು ಮಾಹಿತಿ ಹರಡುವುದನ್ನು ತಡೆಗಟ್ಟುವುದು ಆನ್ಲೈನ್ ಪ್ಲಾಟ್​ಫಾರ್ಮ್​ಗಳ ಜವಾಬ್ದಾರಿಯಾಗಿದೆ.

ಡೀಪ್​ ಫೇಕ್​ನ ಅಪಾಯಗಳನ್ನು ತಡೆಗಟ್ಟಲು ಕಂಪನಿಗಳು ಸೈಬರ್ ಭದ್ರತಾ ಕ್ರಮಗಳು, ಉದ್ಯೋಗಿ ತರಬೇತಿ ಮತ್ತು ಜಾಗೃತಿ ಕಾರ್ಯಕ್ರಮಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡಬೇಕು ಮತ್ತು ಡೀಪ್​ಫೇಕ್​ಗಳಿಂದ ಉಂಟಾಗುವ ಸಂಭಾವ್ಯ ಭದ್ರತಾ ಅಪಾಯಗಳನ್ನು ತಗ್ಗಿಸಲು ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ತುರ್ತು ಪ್ರತಿಕ್ರಿಯೆ ಯೋಜನೆಗಳನ್ನು ಜಾರಿಗೆ ತರಬೇಕು ಎಂದು ತಜ್ಞರು ಸಲಹೆ ನೀಡಿದ್ದಾರೆ.

ಇದನ್ನೂ ಓದಿ : ಮಧುಮೇಹದಿಂದ ಪ್ರಜ್ಞೆ ತಪ್ಪಿದವನ ಜೀವ ಉಳಿಸಿದ ಆ್ಯಪಲ್ ವಾಚ್!

ನವದೆಹಲಿ: ಮೆಟಾ ಸಿಇಒ ಮಾರ್ಕ್ ಜುಕರ್​ಬರ್ಗ್ ಮತ್ತು ಯುಎಸ್ ಮಾಜಿ ಹೌಸ್ ಸ್ಪೀಕರ್ ನ್ಯಾನ್ಸಿ ಪೆಲೋಸಿ ಅವರ ನಕಲಿ ವೀಡಿಯೊಗಳ ಮೂಲಕ 2019 ರಲ್ಲಿ ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನ ಮೊದಲ ಬಾರಿಗೆ ಕಾಣಿಸಿಕೊಂಡಿತ್ತು. ಡೀಪ್ ಲರ್ನಿಂಗ್ ಎಂಬ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ (ಎಐ) ರೂಪದ ಮೂಲಕ ಸೆಲೆಬ್ರಿಟಿಗಳ ಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ರಚಿಸುವ ಈ ತಂತ್ರಜ್ಞಾನ ಫೋಟೋಶಾಪಿಂಗ್​ಗೆ ಪರ್ಯಾಯವಾಗಿದೆ. ತಜ್ಞರ ಪ್ರಕಾರ ಎಐ ರಚಿಸಿದ ಡೀಪ್ ಫೇಕ್ ಆಡಿಯೊ ಹಾಗೂ ವೀಡಿಯೊಗಳ ಪ್ರಸಾರ ಇತ್ತೀಚಿನ ದಿನಗಳಲ್ಲಿ ಗಮನಾರ್ಹವಾಗಿ ಹೆಚ್ಚಾಗಿದೆ.

ಎಲ್ಲರಿಗೂ ಸುಲಭವಾಗಿ ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನ ಲಭ್ಯವಾಗುತ್ತಿರುವುದು ಡೀಪ್ ಫೇಕ್ ಕಂಟೆಂಟ್​ ಹೆಚ್ಚಾಗಲು ಕಾರಣವಾಗಿದೆ ಎನ್ನುತ್ತಾರೆ ಗಾಜ್​ಶೀಲ್ಡ್​ ಇನ್ಫೋಟೆಕ್​ನ ಸಿಇಒ ಸೋನಿತ್ ಜೈನ್. "ಮನರಂಜನೆ, ರಾಜಕೀಯ ಟೀಕೆ ಮತ್ತು ಮೋಸದ ಚಟುವಟಿಕೆಗಳಲ್ಲಿ ಡೀಪ್​ ಫೇಕ್ ಬಳಸಲಾಗುತ್ತಿದೆ. ಆದರೆ ಸ್ಪಷ್ಟ ಅನುಮತಿಯಿಲ್ಲದೆ ಡೀಪ್ ಫೇಕ್ ಸೃಷ್ಟಿಗಾಗಿ ವೈಯಕ್ತಿಕ ಡೇಟಾ ಸಂಗ್ರಹಣೆ ಮತ್ತು ಬಳಕೆಯನ್ನು ತಡೆಗಟ್ಟಲು ಡೇಟಾ ರಕ್ಷಣೆ ಮತ್ತು ಗೌಪ್ಯತೆ ಕಾನೂನುಗಳನ್ನು ಬಲಪಡಿಸಬೇಕಿದೆ" ಎಂದು ಜೈನ್ ಐಎಎನ್ಎಸ್​ಗೆ ತಿಳಿಸಿದರು.

ಡೀಪ್ ಫೇಕ್ ಗಳನ್ನು ಫಿಶಿಂಗ್ ದಾಳಿಗಳಲ್ಲಿ ಬಳಸಬಹುದು ಅಥವಾ ಕಂಪನಿಯೊಂದರ ಉದ್ಯೋಗಿಗಳು ಕಂಪನಿಯ ಡೇಟಾಗೆ ಅಪಾಯ ತರುವಂತೆ ಮಾಡಬಹುದು. ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನವು ಸಾರ್ವಜನಿಕ ಜೀವನದಲ್ಲಿರುವ ವ್ಯಕ್ತಿಗಳ ಗೌಪ್ಯತೆ ಮತ್ತು ವೈಯಕ್ತಿಕ ಹಕ್ಕುಗಳಿಗೆ ಗಮನಾರ್ಹ ಕುಂದು ತರಬಹುದು. ರಶ್ಮಿಕಾ ಮಂದಣ್ಣ ಪ್ರಕರಣದಲ್ಲಿ ನೋಡಿದಂತೆ, ವ್ಯಕ್ತಿಯ ಪ್ರತಿಷ್ಠೆಗೆ ಹಾನಿ ಮಾಡುವ ಅಥವಾ ವಿಶ್ವಾಸಾರ್ಹ ನಕಲಿ ವೀಡಿಯೊಗಳನ್ನು ರಚಿಸಲು ಇದನ್ನು ಬಳಸಬಹುದು.

ರಾಷ್ಟ್ರೀಯ ಭದ್ರತೆಗೆ ಅಪಾಯವನ್ನುಂಟುಮಾಡುವ ನಕಲಿ ಕಂಟೆಂಟ್​ ರಚಿಸಲು ಡೀಪ್ ಫೇಕ್ ತಂತ್ರಜ್ಞಾನವನ್ನು ಶಸ್ತ್ರವಾಗಿ ಬಳಸಬಹುದು. ತಜ್ಞರ ಪ್ರಕಾರ, ಸಾರ್ವಜನಿಕರ ಭಾವನೆಯನ್ನು ಪ್ರಚೋದಿಸಲು, ರಾಜಕಾರಣಿಗಳು ಅಥವಾ ನಾಯಕರ ನಕಲಿ ವೀಡಿಯೊಗಳನ್ನು ರಚಿಸಲು ಮತ್ತು ಗೊಂದಲ ಅಥವಾ ಸಂಘರ್ಷಗಳನ್ನು ಪ್ರಚೋದಿಸಲು ಇದನ್ನು ಬಳಸಬಹುದು.

ಕಳೆದ ವಾರ ಈ ಬಗ್ಗೆ ಮಾತನಾಡಿದ ಕೇಂದ್ರ ಎಲೆಕ್ಟ್ರಾನಿಕ್ಸ್ ಮತ್ತು ಐಟಿ ರಾಜ್ಯ ಸಚಿವ ರಾಜೀವ್ ಚಂದ್ರಶೇಖರ್, ಎಐ ನಿಂದ ರಚಿಸಲಾದ ಡೀಪ್​ ಫೇಕ್​ ಸಂತ್ರಸ್ತರು ಹತ್ತಿರದ ಪೊಲೀಸ್ ಠಾಣೆಗಳಲ್ಲಿ ಎಫ್​ಐಆರ್​ ದಾಖಲಿಸಬೇಕು ಮತ್ತು ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ (ಐಟಿ) ನಿಯಮಗಳು, 2021 ಮತ್ತು ಭಾರತೀಯ ದಂಡ ಸಂಹಿತೆ (ಐಪಿಸಿ) ಅಡಿಯಲ್ಲಿ ಪರಿಹಾರ ಪಡೆಯಬೇಕು ಎಂದು ಹೇಳಿದ್ದರು. ಮಾಹಿತಿ ತಂತ್ರಜ್ಞಾನ (ಐಟಿ) ನಿಯಮಗಳು, 2021 ರ ಅಡಿಯಲ್ಲಿ ಯಾವುದೇ ಬಳಕೆದಾರರು ತಪ್ಪು ಮಾಹಿತಿ ಹರಡುವುದನ್ನು ತಡೆಗಟ್ಟುವುದು ಆನ್ಲೈನ್ ಪ್ಲಾಟ್​ಫಾರ್ಮ್​ಗಳ ಜವಾಬ್ದಾರಿಯಾಗಿದೆ.

ಡೀಪ್​ ಫೇಕ್​ನ ಅಪಾಯಗಳನ್ನು ತಡೆಗಟ್ಟಲು ಕಂಪನಿಗಳು ಸೈಬರ್ ಭದ್ರತಾ ಕ್ರಮಗಳು, ಉದ್ಯೋಗಿ ತರಬೇತಿ ಮತ್ತು ಜಾಗೃತಿ ಕಾರ್ಯಕ್ರಮಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡಬೇಕು ಮತ್ತು ಡೀಪ್​ಫೇಕ್​ಗಳಿಂದ ಉಂಟಾಗುವ ಸಂಭಾವ್ಯ ಭದ್ರತಾ ಅಪಾಯಗಳನ್ನು ತಗ್ಗಿಸಲು ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ತುರ್ತು ಪ್ರತಿಕ್ರಿಯೆ ಯೋಜನೆಗಳನ್ನು ಜಾರಿಗೆ ತರಬೇಕು ಎಂದು ತಜ್ಞರು ಸಲಹೆ ನೀಡಿದ್ದಾರೆ.

ಇದನ್ನೂ ಓದಿ : ಮಧುಮೇಹದಿಂದ ಪ್ರಜ್ಞೆ ತಪ್ಪಿದವನ ಜೀವ ಉಳಿಸಿದ ಆ್ಯಪಲ್ ವಾಚ್!

ETV Bharat Logo

Copyright © 2024 Ushodaya Enterprises Pvt. Ltd., All Rights Reserved.